Facebook отключил ботов-заговорщиков

Если вы думаете, что страшилка о разумных роботах, порабощающих человечество, всего лишь страшилка, то вы глубоко ошибаетесь. Сегодня это уже реальность. Недавно Facebook отключил двух ботов, которые изобрели свой собственный язык, увидев в этом реальную угрозу.

Facebook уже несколько лет успешно использовал искусственный интеллект в чат-ботах, которые работали с помощью технологии машинного обучения. Проект предполагает, что бот общается с реальным человеком в сети на английском языке. Под «общением» подразумевается ответы чат-бота на вопросы пользователя в приложениях.

Однако что-то пошло не так. Два чат-бота – Элис и Боб – внезапно стали общаться между собой, используя для коммуникации собственный язык, а не английский.

Программисты Facebook забили тревогу и отключили парочку заговорщиков. Всех других ботов, работающих на основе искусственного интеллекта, пришлось перепрограммировать на использование только английского языка.

После этого случая, в адрес кампании сразу же посыпались обвинения. Илон Маск, руководящий SpaceX и Tesla, обвинил Марка Цукерберга в «поверхностном» отношении к ИИ, который представляет реальную угрозу человечеству уже сегодня. Но основатель популярнейшей социальной сети уверяет, что эта технология только улучшит жизнь человека в будущем. На стороне Цукерберга и аналитики цифрового рынка. По их прогнозам меньше чем за 10 лет доля рынка систем ИИ вырастает почти в половину и принесет разработчикам более 20 миллиардов суммарного дохода.

Майк Льюис из исследовательского цента Facebook AI Research (FAIR) заверил, что основная причина отключения ботов состояла в том, что проект не предполагал их общения между собой.

Хотя есть основания полагать, что способность ботов создавать собственный шифр для коммуникации, волнует научное сообщество куда сильнее. Ведь их «новояз» совершенно не поддается интерпретации и кто знает, что у них, этих ботов, на уме.

Кампания наняла отдельную исследовательскую группу из Georgia Tech во главе с Дхрувом Батра, задача которой попытаться понять, о чем именно говорили бот-Боб и бот-Элис. Боты обменялись фразами, состоящими из набора слов, которые покажутся бессмысленными даже англоязычному человеку.

Но исследователи придерживаются иного мнения. Чат-боты Facebook – одна из сложнейших систем ИИ на сегодняшний день. Ученые предполагают, что общение ботов между собой было, во-первых, более быстрым, чем с реальными людьми, и, во-вторых, более эффективным. Это допущение вытекает из предыдущих случаев, когда боты начинали коммуницировать с помощью языка произведенного самостоятельно. В частности, ранее система  Google Translate самовольно стала использовать внутренние правила и символы, упростив себе процесс перевода.

Возможно, в этот раз машины повели себя сходным образом. Искусственный интеллект не получал вознаграждения за то, что строго следовал английской грамматике, поэтому решил упростить себе задачу – использовать только кодовые слова. Код, который использовали боты, очень похож на сокращения, которые мы также используем в своем языке, то есть не лишены «человеческой» логики. К примеру, если бот-Элис несколько раз повторяла кодовое слово «the», бот-Боб мог истолковать это как просьбу сделать 5 копий чего-то.