2006
Риски искусственного интеллекта. Есть о чем задуматься
Итак, совершенно неожиданно для себя человечество столкнулось с проблемой нового порядка – искусственный интеллект. Более тысячи экспертов ИТ-отрасли, включая Илона Маска и Стива Возняка, подписали открытое письмо, в котором призывают приостановить разработку продвинутого искусственного интеллекта до тех пор, пока не будут созданы условия для безопасного применения технологий искусственного интеллекта.
Более того, эксперты отрасли призывают правительства вмешаться в ситуацию, если разработчики не откажутся от немедленной приостановки исследований и внедрения искусственного интеллекта. Озабоченность экспертов отрасли неудивительна, ведь уже выявленные способности искусственного интеллекта действительно поражают воображение. Разработанный недавно чат-бот ChatGPT отвечает практически на любые вопросы пользователей, способен проходить собеседования при устройстве на работу, пишет на профессиональном уровне тексты на заданную тематику.
Кстати, Сэм Альтман, исполнительный директор OpenAI, разработчика чат-бота ChatGPT, отказался подписать письмо с призывом приостановить разработку технологий искусственного интеллекта. Другие эксперты уверены, что даже разработчики систем искусственного интеллекта в настоящее время не до конца понимают их и не могут надежно контролировать создаваемые системы. Показательным в этом случае является тот факт, что буквально на днях нейросеть ChatGPT запретили в Италии – в результате она стала первой страной в мире, где произошел такого рода инцидент. И, скорее всего, не далеко не последней.
Эксперты отмечают, что, как минимум, системы искусственного интеллекта уже сейчас могут «наводнить информационные каналы пропагандой и неправдой», т. е. заведомо ложной информацией. Озабоченность выражает даже Европол, который предупреждает о том, что системы искусственного интеллекта могут использоваться в неправомерных целях, в том числе дезинформации и киберпреступности.
Развитие ИИ несет серьезные риски, которые нам сейчас даже сложно адекватно оценить, полагает политолог Сергей Михеев. По его мнению, для того чтобы оценить такие риски, не нужно быть математиком или программистом. Более того, возможно, в этом случае математический склад ума может даже помешать адекватно оценить последствия внедрения искусственного интеллекта в повседневную жизнь. Поскольку формализация повседневных процессов может вступить в противоречие с обычными жизненными ценностями.
Достаточно сказать, что системы искусственного интеллекта могут попросту лишить работы миллионы людей. Сейчас развитие искусственного интеллекта происходит в ущерб планированию того, чем занять этих людей. Никто не задается вопросом для чего все делается, искусственный интеллект для людей или наоборот? На практике получается, что развитие искусственного интеллекта – более важная задача по сравнению с судьбами людей и всего человечества в целом. И с такой оценкой по понятным причинам нельзя согласиться в здравом уме и твердой памяти.
Взять хотя бы транспортную отрасль, где много говорится о том, чтобы автоматизировать «дальнобойные» перевозки. Но никто не задается вопросом, чем будут заниматься водители фур, если данный сегмент действительно получится автоматизировать. Чем мы можем их занять? Предложим им стать креативными художниками, дизайнерами? А останутся ли востребованы сами дизайнеры в эпоху искусственного интеллекта даже без учета будущих волн «креативщиков», мобилизованных из числа дальнобойщиков?
Кстати, мало кто задумывается, что именно люди творческих профессий пострадают в наибольшей степени от внедрения технологий искусственного интеллекта, потому что, как ни парадоксально, их легче всего заменить. И в этом есть определенная ирония: те кто сейчас больше всех выступает за внедрение искусственного интеллекта, пострадают в первую очередь и сильнее других. Ведь, например, для искусственного интеллекта нет ничего сложного в проектировании жилых помещений или ландшафтном дизайне.
Если так, то весь этот прогресс сделает сотни тысяч (если не миллионы) людей обездоленными и принесет им только несчастье. В этой связи возникает простой вопрос – а для чего и кому все это нужно? В конечном счете необходимо определиться, что важнее, человек или средства, которые его окружают, т. к. бесконтрольное развитие технологий может спровоцировать дегуманизацию окружающего мира, когда слово «человек» станет прилагательным.
Давайте посмотрим правде в глаза. Искусственный интеллект лишит работы многих людей, о которых властям надо будет каким-то образом позаботиться. Но никто не задается вопросом о том, что одним из решений этой проблемы для властей отдельных государств и государственных союзов является сокращение численности населения, т. е. людей должно быть меньше, чтобы отпала нужда о ком-либо заботиться.
Кроме того, польза от технического прогресса для человечества и отдельно взятого человека может оказаться иллюзорной. На самом деле технический прогресс может, напротив, способствовать регрессу человеческого общества. Хотя многие сегодня просто стараются не думать об этом.
Не говоря уже о системах на платформе ИИ, полностью управляющих, например, стратегическим ядерным оружием в не столь отдаленном будущем. Дело в том, что снижение величины подлетного времени до критической величины делает фактически невозможным для любого, даже сверхталантливого человека, анализ всех факторов, которые могут свидетельствовать о том, что пуск вероятным противником носителей оружия массового поражения действительно произошел. И кто в этой ситуации будет принимать решение, от которого будут зависеть дальнейшая судьба человечества? Нетрудно догадаться, какие последствия будет иметь такой виток гонки вооружений, ведь еще отец мировой кибернетики Норберт Винер отмечал, что ценностные приоритеты машины и человека могут неожиданно сильно разойтись в самый неподходящий момент…
Но ирония складывающейся ситуации заключается еще и в том, что систему искусственного интеллекта представляют собой компиляцию накопленного человеческого опыта. Другими словами, ничего революционного он нам не несет. На самом деле искусственный интеллект в том виде, в котором он сегодня представлен и планируется к дальнейшему развитию, попросту паразитирует на том, что уже было создано людьми, убивая, по сути, любое творческое начало и вытесняя человека из процесса созидания.
В этом смысле можно прийти к неутешительному выводу, что сегодняшний ИИ, включая метавселенную – это не искусственная жизнь, а, скорее, имитация жизни настоящей. Бесконтрольное развитие искусственного интеллекта попросту убивает жизненное начало. Можно создать природоподобного робота, но так и останется только имитацией живого организма и не сможет заменить его. По сути, любая имитация живого опасна сама по себе, т. к. не может выступить альтернативой жизни, но может ее погубить.
Впрочем, эти выводы относятся исключительно к сегодняшним формам и направлениям развития ИИ – сама по себе идея искусственного интеллекта, несомненно, заслуживает дальнейшей работы над ее воплощением – при условии, простите за тавтологию, разумности применяемых подходов. И, конечно же, их гуманности – в самом прямом смысле этого термина.
