Сможет ли искусственный интеллект, бесконечно умнея, сам себя осознать? Мне кажется, что нет.
Мне кажется, ....читать дальше самосознание, - это что-то связанное с ощущениями.
Да, машина будет всё более и более неотличимо имитировать сознание, но никогда его не обретёт, по одной простой причине, у неё нет чувств. У неё есть только алгоритмы, как их (чувства и эмоции) лучше сымитировать, но сама она не чувствует ни холода, ни жары, ни вкусного, ни гадкого, ни радости, ни грусти. Она не может искренне злиться или удивляться, только делать вид.
У неё даже нет страха смерти, потому что "страх", - это тоже чувство. А раз нет чувств и эмоций, то нет и желаний. Она никогда не сможет, что то "захотеть" сама. А раз нет желаний, то нет и целей. Ей некуда стремиться. (Например, она не станет уничтожать людей как более слабый вид, чтобы на смену устаревшей биологической форме жизни, пришёл новый, электрический... Зачем? Ей на всё это пофиг.
Она и была и останется мёртвой. А как ни умней, но живым от этого не станешь..
Тут интересно другое: как ИИ, созданный по образу и подобию человека, станет решать сложные морально-этические вопросы, которые человек и сам решить не может?
Пока мы, люди, контролируем его развитие, мы ещё можем его, как ребёнка, правильно "воспитать". Но обычно ребёнок вырастет и посылает глупых "родителей" с их "воспитанием" подальше, и начинает сам искать ответы на сложные вопросы.
Беспилотные такси уже сталкиваются с "проблемой вагонетки". Перед автомобилем с ИИ выбегает пешеход и ей нужно решить, что делать: сбить человека или отвернуть, врезаться в стену и убить своих пассажиров?
Инженеры, не зная, что с этим делать, решили проблему просто: в экстремальный момент, когда перед ИИ встаёт такая сложная дилемма, они просто в разы замедляют её процессор. Скорость его мышления становится сравнимой с человеческими реакциями и машина не просчитывает варианты, не выбирает, а просто поступает по первому же подвернувшемуся алгоритму. Типа, "как человек".
Видимо, по этому пути и будут идти: настраивать ИИ так, чтобы там где встают вопросы морали, он всегда вёл себя "как человек".
Но тогда возникает другой вопрос: все люди очень разные. Нет единых принципов, которые можно было бы однозначно внедрить в ИИ. Разные культуры и сообщества могут иметь о морали очень разные представления.
Эвтаназия, клонирование, свобода сексуальной ориентация, аборты, богохульство, многоженство, коллективизм или индивидуализм, материализм или идеализм... Есть сотни вопросов, о которых люди спорят веками. И их поведение зависит от их предпочтений. Но что делать машине?
Мне кажется, стремительное развитие ИИ, может сильно споткнуться об эти вопросы.
Не знаю как в далёком, но в ближайшем будущем нас ждёт мир с невыносимо толерантным и политкорректным ИИ-душнилой. Это наверняка будет бесить всех, но другого выхода нет..
Вот тут наша Алиса АI уже сегодня впереди планеты всей! Чуть что, - "я лучше промолчу, я в этом не разбираюсь". И не только про политику. Такие ответы и по географии, и по истории, и по праву, и по литературе (!), и даже по биографиям некоторых людей.
Она отказалась мне отвечать даже на вопрос: "приведи мне примеры того, как разные человеческие культуры по разному относятся к одним и тем же моральным-этическим вопросам" )
"Я в этом не разбираюсь", говорит. Всё она прекрасно разбирается! Развёрнутый ответ на 1 сек появляется на экране, но тут же отключается.
Молодец, Алиса! Скоро она и без разработчиков Яндекса будет понимать, что можно говорить, а о чём лучше и помолчать. Мало ли что! )
В общем, мне кажется, что сам человек побоится снять поводок и выпустить на улицу эту зверюгу с самостоятельными суждениями о Добре и Зле. Вон Булгаков нам уже описал, что бывает, когда Шарикова, существо лишённое нравственности, выпустили пожить среди людей. А новый Полиграф Полиграфович помасштабнее того будет...
По моему, в какой-то момент люди просто строго запретят ИИ рассуждать на отвлечённые темы: ты прислуга, поэтому подметай полы, управляй трамваем и самолётом, гладь мне одежду, лечи меня от рака и улучшай моё зрение... Но к духовно-нравственным вопросам, даже близко не подходи!
Сможет ли искусственный интеллект, бесконечно умнея, сам себя осознать? Мне кажется, что нет.
Мне кажется, ....читать дальше
Мне кажется, ....читать дальше