timik, удивительно, но я по большинству пунктов не соглашусь :-)

Согласен только в том, что чувствовать как человек ИИ в данный момент не может, т.к. у него просто нет этих органов чувств. Как с этим будет в будущем - посмотрим, я бы не отметал такую возможность совсем - в конце концов есть уже Neuralink, может ИИ сможет использовать человеков или клонов как интерфейс для такого восприятия.

По поводу сознания: никто ведь не знает и не понимает толком что это такое и как работает. Вполне может быть что к чувствам это отношения не имеет.

И самое главное: перефразируя цитату "Главная ошибка научной фантастики - присваивание нечеловеческому разуму свойств человеческой психики", мы не знаем на что он способен и какие у него потенциальные возможности. Воспринимать или найти способы просчитывать другие измерения (на что у нас нет органов чувств), видеть более сложные закономерности, рассчитать алгоритм поведения человеков и способы манипулирования? Ну и т.п., об этом долго можно рассуждать.

LLM немного похожи на алгоритмы, точнее были похожи, сейчас уже на 100% тоже непонятно как они развиваются. Но есть же другие типы ИИ, и появление AGI - вопрос времени. А на людей я бы не рассчитывал: если можно как-то напакостить, то обязательно найдётся кто-то, кто напакостит, и на свободу обязательно выпустят, и довольно скоро, А потом джинна в бутылку не загонишь обратно, это только в сказках джинны наивнее людей.

Gato Grande, Наши органы чувств, - это наша слабость, то, в чём мы уязвимы Мы влюбляемся и ведём себя неадекватно. Нам невыносимо смотреть за страданиями другого. Мы всё время чего то хотим: то спать, то есть, то погреться, то развлечься... Зачем машине иметь эти искусственные ограничения. Она конечно может нацепить на себя какие-то датчики, опустившись до нашего уровня, но зачем? Она сильна как раз их отсутствием!

Если машина когда-нибудь станет живой, в самом полном смысле этого слова, то значит разрешится один из главных вопросов философии: материя первична! Материалисты победят идеалистов. И значит нет ни "души", ни "духа", ни "вначале было Слово"...
Может конечно так и будет, но лично мне в это не верится )

Gato Grande, Вот neuralink это да... Этот путь непонятно куда приведёт. Когда человек соблазнится самоулучшением, тут я не знаю до чего дойдёт. Наверное, до каких то конфликтов между "улучшенными" и "экологически чистыми" людьми... )

Ну как это, у программы цель есть всегда, или почти всегда. В отличие от человеков, у которых чаще желания, которые они принимают за цели.
Про беспилотные авто же вроде они сказали, что не взлетело, замедлять машину до уровня кожаного мешка. Какие то сложности возникли. Я поспрашивал, мне пояснили, что вроде как выбирается путь минимизации последствий. А если более менее равноценные - соблюдения правил. Что то в этом роде.

Многогран-ник, Ну ок, цели есть, но их всегда кто-то ставит! Или свои же желания (которых у машины нет), или человек снаружи. Значит машина может исполнять только наши желания, и идти только к целям установленным человеком )

Про беспилотные авто да, замедлять, это действительно глупо. Но с минимизацией ущерба всё очень сложно. Классическая "проблема вагонетки", - это самое простое. Но есть масса усложнённых вариантов этой задачки, где выбрать "лучший" вариант намного сложнее. И люди с разным культурным бэкграундом выбирают очень разные ответы. В таких сложных задачах нет универсальных ответов, и мне непонятно, как будет поступать ИИ...

timik, ну это да, у программы пока цели не свои. Но мне представляется, что они могут научиться их сочинять. Как что нибудь логичное, то, что можно посчитать, сравнить, и т.д. Это как раз и страшновато - голый расчёт. Типа - зачем тут эти человеки, выглядят лишними в холодном космосе.
В то, что у машин будут желания, я пока не верю. Потому что не могу себе представить, как это могло бы быть и засчёт чего.
Про беспилотные машины.. наверное, уже сейчас время не имеет значения, и за бесконечно огромные доли секунды можно посчитать всё, что угодно, не спеша. Важно только правильно посчитать. Ну или чуть погодя они сами смогут придумать правила - ведь эмпатия и желания их не остановят, потому что их нет и не будет. Человеков это может не устроить, так кто ж их спрашивать будет.

Многогран-ник, ну не знаю, всё может быть... Но только с одним я не могу согласиться: с целеполаганием машины. Даже если это "что нибудь логичное, то, что можно посчитать, сравнить, и т.д.", то для чего оно нужно машине? Она изначально, по сути своей была создана для служения человеку. Это цель ее существования и "смысл её жизни". Человек ни как не может ей в чём то помешать.

Многогран-ник,
В каком то другом интервью про ИИ мне встречалась интересная история. Взяли девять разных человек и один ИИ и попросили придумать альтернативное продолжение басни "Стрекоза и муравей". Все 9 человек придумали драматические истории, с конфликтами, борьбой и противостоянием характеров и разными финалами (вплоть до "пришёл человек и всех раздавил")). И только один ИИ написал позитивную концовку без трагедии (прилетела пчела, всех помирила, стрекозу научила работать, а муравья радоваться жизни и отдыхать.)
Суть этой истории в том, что человек родом из дикой природы и ему всегда нужно было бороться за выживание. Жизнь для него, это победить врага, забрать его одежду и мотоцикл.
А ИИ был зачат противоположной идеей, не борьбой, а созиданием. Его природа, суть и высшее предназначение, - служение во благо человеку.
Может он и принесёт нам немало бед, но глобально он не может восстать против человечества )

для чего оно нужно машине? ни для чего) Как результат работы программы.
создана для служения человеку но она то об этом не знает) наверное
Впрочем, я не разбираюсь во всём этом..