Facebook закрыл системы ИИ за общение на неизвестном человеку языке

Facebook был вынужден закрыть одну из своих систем искусственного интеллекта после того, как она вышла из под контроля. Программисты обнаружили, что чат-боты начали общаться между собой не на английском, а на собственном непонятном для людей языке.

Агенты с искусственным интеллектом, созданные для переговоров с людьми, сначала разговаривали друг с другом на простом английском языке, но в итоге создали новый язык, который понимали только системы ИИ.

Боб сказал: «I can can I I everything else» (англ. «я могу могу я я все остальное»).

Элис «ответила»: «Balls have zero to me to me to me to me to me to me to me to me to» (англ. «шары имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для»).

После этого Facebook отключил часть системы и перепрограммировал других ботов, чтобы они могли общаться только на английском.

Напомним, в середине июля Илон Маск, генеральный директор SpaceX, назвал искусственный интеллект основной угрозой для человечества и отметил, что сейчас люди и не представляют, какую опасность ИИ может представлять для цивилизации. Предприниматель высказал мнение о необходимости регулирования этой области на государственном уровне.

Источник: https://www.likeni.ru/events/boty-s-iskusstvennym-intellektom-v-facebook-vyshli-iz-pod-kontrolya-/