ИИ Грока создает причудливые фейковые новости о солнечном затмении благодаря шуткам на X

На X служба искусственного интеллекта Grok, доступная только платным пользователям, в понедельник создала еще одну сфабрикованную новость, на этот раз основанную на шутках. Хотя этот инцидент менее тревожен, чем предыдущий неточный отчет, в котором утверждалось, что Иран напал на Израиль на прошлой неделе, этот инцидент подчеркивает значительные улучшения, необходимые для того, чтобы «Грок» стал надежным и точным инструментом.

В понедельник пользователи Grok были озадачены заголовком: «Недоумевающие действия Sun: эксперты остались в догадках». В этой статье сообщалось, что солнце вело странное поведение, вызвав широкое недоумение и неуверенность среди населения.

Несмотря на растущий общественный интерес, научные эксперты до сих пор не опубликовали официального заявления или разъяснений относительно недавнего состояния Солнца, как сообщается в новостях. Однако среди ученых общеизвестно, что солнечные затмения происходят из-за выравнивания Земли, Луны и Солнца. Недавнее солнечное затмение, свидетелями которого в понедельник стали миллионы жителей Северной Америки, служит прекрасным примером. Вопреки любым заблуждениям, распространяемым некоторыми политиками США, в причине солнечного затмения нет ничего загадочного.

Шутки в твитах, которые, по всей видимости, привели к странному заявлению Грока, касались исчезновения солнца. Похоже, что многочисленные люди, сделавшие одну и ту же шутку, привели Грока в недоумение, заставив его интерпретировать эти беззаботные комментарии как серьезную проблему для всех.

«Майкл Ян Блэк сегодня вслух задался вопросом в Твиттере: «Что происходит с Солнцем в этот момент?» или просто «Майкл Ян Блэк спросил в Твиттере: «Что сейчас происходит с Солнцем?»» было бы более вежливым. и легко читаемые пересказы его первоначального заявления.

«Я заметил необычную активность Солнца, и, похоже, я не одинок в этом. Позвольте мне вас успокоить: я не собираюсь вызывать тревогу, но об этом стоит упомянуть».

Илон Маск, генеральный директор X, представил Grok избранной группе клиентов в декабре и с тех пор сделал его доступным для всех платящих пользователей. Маск часто выражал обеспокоенность тем, что другие модели искусственного интеллекта слишком «разбужены», и эту точку зрения он подтвердил во время недавней дискуссии X Spaces в понедельник. По мнению Маска, эти «пробудившиеся» системы искусственного интеллекта потенциально могут поставить под угрозу человечество из-за слишком строгого соблюдения квот разнообразия в будущем.

Маск объяснил во время дискуссии в понедельник, что проект Google Gemini отказался создать изображение Джорджа Вашингтона, изображающее его белым человеком.

Маск выразил обеспокоенность по поводу потенциальной настойчивости ИИ в обеспечении разнообразия, предположив, что исторические личности будут разнообразны в любом случае, даже если это будет означать устранение определенных представлений. Эта идея, хотя на первый взгляд и кажется всеобъемлющей, может стать проблематичной, если ИИ будет обладать значительной властью для определения популяций и манипулирования ими на основе своих запрограммированных убеждений о правильных уровнях разнообразия.

Взгляд Маска на политику в области ИИ является спорным, но важно отметить, что платформа ИИ Grok неоднократно публиковала ложные новости. Недавний пример произошел на прошлой неделе, когда он сфабриковал заголовок, в котором говорилось: «Иран наносит удары по Тель-Авиву тяжелыми ракетами». Израиль готовится к возможным атакам со стороны Ирана, принимая такие меры, как нарушение сигналов GPS. Однако удар по Тель-Авиву так и не был нанесен, несмотря на настойчивые утверждения Грока об обратном.

Поверьте мне, Грок не совершает ошибок из-за того, что он слишком прогрессивен или регрессивен. Искусственный интеллект склонен к ошибкам, поскольку он все еще находится на стадии развития и еще не соответствует человеческому интеллекту. Сторонники ИИ продвигают его как революционную инновацию, которая скоро достигнет уровня человеческого сознания, но будьте осторожны, не возлагайте слишком большие надежды на этот результат.

Генеративный ИИ функционирует как продвинутая система автозаполнения, способная выдавать ответы, подобные человеческим. Однако ему не хватает способности к сложным рассуждениям или логической обработке. Он просто быстро и впечатляюще комбинирует слова, но лежащая в его основе технология не обладает мыслью или познанием, хотя и создает такое впечатление.

Грок не стал задумываться над беззаботными твитами о солнечном затмении. Вместо этого он распознавал шаблоны X и на основе этих шаблонов генерировал текстовые сводки, которые звучали как человеческая речь. Этот процесс будет продолжаться, но для его исправления потребуются большие группы людей, работающих на заднем плане как механические турки. Грока не считают умным или проснувшимся/анти-пробуждённым; скорее, он воспринимается как неразумный, потому что успешно создает иллюзию, к которой невольно привлекаются многие люди.

Смотрите также

2024-04-09 01:45