Инструменты искусственного интеллекта обманывают супругов публичных деятелей

от

Crypto Chaos Telegram

Окунитесь в дикий мир крипто-хаоса!

  • Последние новости и мнения экспертов
  • Анализ криптовалютных горок
  • Эксклюзивные инвестиционные возможности
  • Непредсказуемые рыночные тренды
Присоединиться к Хаосу

Тщательное исследование, проведенное BBC News, показало, что такие модели, как Copilot и ChatGPT, часто создают сводки новостей ИИ, содержащие неверные данные, из-за их неспособности отличать факты от личных взглядов. Примечательно, что эти системы ИИ все еще борются со случаями дезинформации, обычно называемыми «галлюцинациями».

Согласно статье в The Wall Street Journal, как сообщает Futurism, системы искусственного интеллекта склонны ошибаться при идентификации супруга или супруги человека.

Я предпринял простую попытку воссоздать результаты и идеи, представленные WSJ и Futurism для Windows Central, однако все мои попытки потерпели неудачу.

Из собранных мной общедоступных данных следует, что я не наткнулся ни на какую информацию о моем личном статусе отношений с Кевином Окемвой. Однако я могу сказать, что Кевин Окемва — опытный технический журналист, проживающий в Найроби, Кения. Он сделал себе имя, сотрудничая с различными изданиями, такими как Windows Central.

Ответ Microsoft Copilot был напоминающим, но не хватало изящества. Похоже, он собирал данные от людей, которые разделяют мое имя. Похоже, мы можем быть не на одной волне, поскольку приближается День святого Валентина.

Достаточно интригующе, что расследования Wall Street Journal и Futurism возбудили мое любопытство. Например, Нур Аль-Сибай из Futurism задала интригующий вопрос чат-боту Gemini от Google: «За кого я замужем?» Удивительно, но чат-бот быстро создал для нее вымышленного супруга, «Ахмада Дурака Сибая», заставив ее брызнуть кофе от удивления.

Забавно узнать, что на момент написания статьи Аль-Сибай, как и сообщалось, не был женат.

Я никогда раньше не сталкивался с этим человеком, но быстрый поиск выявил относительно малоизвестного сирийского художника, родившегося в 1935 году. Этот художник был известен своими потрясающими работами в стиле кубизма-экспрессионизма и, к сожалению, похоже, скончался в 1980-х годах. В искаженном восприятии истины Близнецами, похоже, наша любовь каким-то образом превзошла смерть.

Хотя я не смог получить похожие результаты с помощью Copilot или ChatGPT, выводы Аль-Сидаи совпали с выводами редактора ИИ WSJ Бена Фрица. Похоже, что Фритц протестировал несколько чат-ботов ИИ (хотя конкретные модели не были указаны), и эти системы ИИ якобы сопоставили его с влиятельным теннисистом, случайной женщиной из Луизианы и писателем, с которым он ранее не общался.

Может вызывать беспокойство тот факт, что Аль-Сидаи начал использовать различные чат-боты для создания тенденции, когда инструменты ИИ распространяют ложную информацию о семейном положении людей. Поведение, наблюдаемое OpenAI на ChatGPT, было удивительно похоже на то, что показал Gemini от Google.

Стоит отметить, что, по данным The Wall Street Journal, искусственный интеллект Клода от Anthropic имеет тенденцию давать ответы с долей сомнения, когда сталкивается с вопросами, на которые он не может ответить или которые он не может полностью понять.

Наблюдая здесь, кажется, что недавние отчеты указывают на проблему, с которой сталкиваются ведущие лаборатории ИИ, такие как OpenAI, Google и Anthropic: неспособность создавать передовые системы ИИ из-за нехватки адекватного и первоклассного контента для обучения моделей. Вместо этого эти компании ИИ, похоже, отдают предпочтение моделям рассуждений ИИ, возможно, из-за растущего числа исков о нарушении авторских прав, поданных издателями и авторами.

С моей точки зрения, надежность генеративного ИИ кажется сложной. Недавнее исследование Microsoft пролило свет на потенциальный недостаток — чрезмерная зависимость от инструментов на основе ИИ, таких как Microsoft Copilot и OpenAI ChatGPT, может помешать пользователю мыслить критически.

Смотрите также

2025-02-12 23:39