1. Главная
2. Форум
3. НАВИГАТОР
4. Общий раздел
5. Новости IT-индустрии
6. DALLE-2 создала секретный язык

DALLE-2 создала секретный язык

1. Оффлайн

   gmzippo

   Звание: Лучший

   Администраторы

   Сообщений: 7333

   Трофеев: 18

   DALLE-2 — это наверное самая популярная нейронная сеть, «обученная» исследовательской компанией OpenAI генерировать реалистичные изображения и искусство из текста на естественном языке.
   
   Проект зашел настолько далеко, что машина научилась правдоподобно комбинировать несвязанные понятия и создавать антропоморфизированные версии животных и объектов.
   
   Вы без труда найдете в сети ее многие художественные работы.😊
   
   Пока доступ к новой версии открыт только для группы пользователей через список ожидания.🤷🏼‍♀️
   
   🔻Пользователям запрещено загружать или создавать изображения, которые «могут причинить вред», включая все, что связано с символами ненависти, наготой, непристойными жестами или «событиями, связанными с текущими геополитическими событиями».
   
   Они также должны раскрывать роль ИИ в создании изображений.
   
   Исследователи, использующие искусственный интеллект с машинным обучением (ИИ), часто не знают точно, как их алгоритмы решают проблемы, с которыми они сталкиваются.
   
   Точно так же и с DALLE-2: ученые до сих пор не понимали, какие процессы происходят внутри этого «черного ящика».🤨
   
   Однако, все изменилось пару дней назад, когда в ходе тестов разработчики заметили, что система DALLE-2 может возвращать бессмысленные несуществующие слова, больше похожие на набор букв
   
   Сначала казалось, что это баг, но углубившись в исследование оказалось, что последовательность букв не случайная. Более того это оказалось языком DALLE-2🤖
   
   Разработчики скормили машине слова на "ее языке", а машина ответила им картинками, что они означают
   
   Так:
   ▫️«Apoploe vesrreaitais» означает «птицы».
   ▫️«Contarra ccetnxniams luryca tanniounons» означает насекомых или вредителей.
   
   Все это и забавно и жудко. Но разработчиков беспокоит другое:
   
   ☝🏻Кто-то с использованием языка машины теперь может обойти фильтры безопасности и использовать нейросеть для генерации запрещенного контента.
   
   Также ученые отмечают, что для понимания этих явлений необходимы более фундаментальные исследования.
   
   По всей видимости DALLE-2 еще не скоро станет доступен для широкой публики, в связи с тем, что машина ведет себя не так как ожидали люди.🤷🏼‍♀️
   
   

   

   Сообщение отредактировал gmzippo 15 июня 2022 - 00:30