Новый искусственный интеллект от Google научился становиться агрессивным в стрессовых ситуациях

В конце 2016 года знаменитый физик Стивен Хокинг выступил с предупреждением, что далнейшее развитие искусственного интеллекта будет либо: «самое лучшее или самое худшее, что когда-либо случалось с человечеством».

Мы все видели фильмы наподобие «Терминатора» и тот апокалиптический кошмар, который системы искусственного интеллекта вроде Skynet, способны устроить человечеству. И теперь после последних испытаний новой системы искусственного интеллекта DeepMind от Google мы стали на шаг ближе к возможности подобного будущего, а значит, должны стать максимально осторожными при создании роботов будущего.

В ходе испытаний в конце прошлого года система искусственного интеллекта DeepMind от Google продемонстрировала способность учиться, основываясь на данных собственной памяти, и обыграла лучших игроков в мире.

Во время тестирования программы на готовность сотрудничать с другими, исследователи обнаружили, что когда DeepMind чувствует, что он проигрывает, он сразу же делает ставку на «крайне агрессивную стратегию», чтобы обеспечить себе гарантированную победу или первое место.

Так во время простой компьютерной игры «сбор плодов», программы искусственного интеллекта вели себя «мирно» ровно до того момента, пока обоим хватало ресурсов, но как только собираемых плодов-ресурсов стало мало, искусственные интеллекты стали «агрессивными» по отношению друг к другу стараясь завоевать оставшиеся ресурсы.

Эта модель поведения искусственного интеллекта напоминает поведение человека в условиях ограниченных ресурсов.

DeepMind затем протестировали на второй видеоигре «Wolfpack». На этот раз было три ИИ участника — два из них были волками, и третий выступал в качестве добычи. Результаты были схожими.

И хотя это только простые маленькие компьютерные игры, идея ясна — поместить системы ИИ, с различными конкурирующими интересами в реальные жизненные ситуации и посмотреть за их поведением, которое может привести, если их цели не будут сбалансированы, к тотальной войне с непредсказуемыми, в первую очередь для людей, последствиям. А значит, ученым придется приложить все усилия для того, чтобы искусственный интеллект в будущем не решил, вдруг, что человечество для него всего лишь еще один конкурент в сборе ресурсов «яблок».