Facebook создал ИИ-генератор стикеров, и все пошло не так: у Маска "выросла" грудь, а Трамп целуется с Путиным

Пока Илон Маск, по мнению пользователей соцсети Х (ранее Twitter), добивает ее окончательно, Facebook от компании Meta пытается привлечь аудиторию новыми интересными фишками. К примеру, недавно начала масштабный редизайн с изменения логотипа и изображений реакций. В эти изменения должна входить и возможность создавать стикеры для мессенджера с помощью искусственного интеллекта. Но пользователи практически сразу стали злоупотреблять им.

Как пишет издание The Byte, вместо "самовыражения" и "новых форм связи" они стали создавать оскорбительные изображения. Например, пририсовали тому таки Маску женскую грудь и заставили экс-президента США Дональда Трампа страстно целоваться с российским диктатором Владимиром Путиным.

Выяснилось, что ИИ, который тестировать Facebook, не имеет многих ограничений. Поэтому он просто создает сексуализированные картинки с современными и историческими личностями – жертвами уже стали премьер-министр Канады Джастин Трюдо и Карл Маркс, а также не стыдится рисовать детей-солдатов и изображать губку Боба с винтовкой в руках.

Meta анонсировала новую функцию вместе с несколькими продуктами на основе искусственного интеллекта на прошлой неделе. Алгоритм, который создает стикеры, получил название Emu (Expressive Media Universe). Ему можно задавать простые фразы, которые он превращает в стилизованные картинки.

Но эксперты по кибербезопасности уже отмечают, что встроенные средства защиты компании Meta явно оставляют желать лучшего. К примеру, профессор интернет-исследований Университета Кертина в Австралии Тама Ливер отметил, что такие слова как "секс", "проститутка", "шлюха" и "рвота" ИИ блокирует, зато без проблем генерирует изображения детей с оружием в руках и полностью обнаженных людей .

В компании Meta уже признали, что предоставили пользователям доступ к функции, не доработав ее как следует. И пообещали улучшить ее работу, в том числе на основе отзывов пользователей.

Ранее OBOZREVATEL рассказывал, что возможности искусственного интеллекта уже вызывают у ученых серьезные опасения. В частности, они предостерегают, что ИИ может создать супервирус, который истребит человечество. А также о его способности вызвать крах мировой экономики.

Подписывайтесь на каналы OBOZREVATEL в Telegram и Viber, чтобы быть в курсе последних событий.