Нейросеть, созданная американскими учеными, заговорила с ними на собственном языке. Причины такого сбоя остаются неизвестными.
Нейросеть DALLE-E2 предназначалась для создания картинок на основании введенного пользователем описания. По словам ученых, систему можно назвать новаторской, так как она «эффективно изучила взаимосвязь между изображениями и текстом».
Но возможности нейросети оказались даже шире, чем предполагали ее создатели. Система создала собственный лексикон, который ученые не смогли сразу расшифровать.
Так, аспирант Техасского университета Яннис Даррас дал DALLE-E2 задание – изобразить «фермеров, обсуждающих овощи». Нейросеть выполнила задачу, но добавила к картинке слово vicootes.
Система не должна была знать это слово, поскольку оно ни разу не встречалось в обучающих программах. Причины его появления в словаре нейросети остались неизвестными.
Когда ученые сами ввели это слово в программу, то она представила фотографии овощей. Дальнейшие эксперименты показали, что это не единственное обновление – для обозначения птиц DALLE-E2 придумала словосочетание «Apoploe vesrreaitars».
Разработчики заявили, что каждый раз после ввода команды система может ответить «тарабарским» текстом. Но, видимо, сама она распознает смысл своих неологизмов и выдает соответствующие картинки.
Ученые предположили, что если процесс будет продолжаться, вскоре может появиться новый язык, понятный только DALLE-E2. Они намерены провести исследование, чтобы понять причины необычного поведения искусственного интеллекта.
