Как опытный геймер, проявляющий большой интерес к искусственному интеллекту и его этическим последствиям, я внимательно слежу за сагой OpenAI. Последние события заставили меня чувствовать себя неловко и скептически относиться к прозрачности и надежности компании.
В последних кварталах 2023 года правление OpenAI уволило с поста Сэма Альтмана. Члены правления выразили обеспокоенность тем, что сообщения Сэма не всегда были правдивыми. Это расплывчатое заявление подразумевало нечестность со стороны Сэма Альтмана, но оставляло открытым вопрос о том, какую именно ложь он сказал. Перенесемся на шесть месяцев позже: художники и бывшие сотрудники призывают общественность пересмотреть авторитет OpenAI.
В этом месяце OpenAI объявила, что голос ChatGPT по имени Sky не должен был напоминать Скарлетт Йоханссон из «Она», что побудило актрису выпустить критическое заявление и пригрозить потенциальными судебными исками. Сомнительный голос с тех пор был удален. Кроме того, недавно ушли две известные фигуры в сообществе искусственного интеллекта, которые ранее курировали команду безопасности OpenAI. Один из этих руководителей, Ян Лейке, после ухода выразил обеспокоенность тем, что акцент OpenAI на «блестящих продуктах» затмил культуру и процедуры безопасности. Как отмечает Эд Зитрон, становится все труднее доверять заявлениям OpenAI за чистую монету.
Поначалу трудно поверить, что Sky не похож на Йохансона по звучанию. TopMob написал статью, предполагающую сходство с фильмом «Она» после запуска GPT-4 Omni, и многочисленные публикации подтвердили это наблюдение. Руководители OpenAI, похоже, не придали значения сравнению, связанному с запуском, когда Альтман написал в Твиттере слово «она». Руководитель исследования Audio AGI компании OpenAI даже использует скриншот из фильма в качестве фонового изображения. Было ясно, чего стремится достичь OpenAI.
На прошлой неделе Альтман выразил сожаление по поводу того, что он не знал, что OpenAI ввела в отношении сотрудников положения о пожизненной конфиденциальности, требуя от них молчать о любом негативном опыте и отказываться от своей справедливости. О существовании таких ограничительных соглашений о конфиденциальности стало известно из рассказа бывшего сотрудника, который отказался его подписать. Хотя многие корпорации используют соглашения о неразглашении, нередки случаи, когда встречаются столь строгие соглашения.
В интервью, которое я нашел еще в январе, Альтман выразил неуверенность в том, работает ли Илья Суцкевер, тогдашний главный научный сотрудник OpenAI, в компании. Как ни удивительно, только на прошлой неделе Суцкевер и его соруководитель Superalignment Лейке объявили о своем уходе из OpenAI. Лейке упомянул в своем заявлении, что ресурсы для их проекта были перенаправлены в другие подразделения компании за несколько месяцев до этого.
В марте Мира Мурати, технический директор OpenAI, выразила неуверенность в том, была ли их модель искусственного интеллекта Sora обучена с использованием видео на YouTube. Эта двусмысленность еще больше усугубилась, когда Брэд Лайткэп, главный операционный директор OpenAI, отказался прояснить этот вопрос во время майского технического саммита в Bloomberg. Однако, по данным The New York Times, высокопоставленные члены OpenAI входили в команду, которая расшифровывала видеоролики YouTube с целью обучения моделей ИИ. В понедельник Сундар Пичаи, генеральный директор Google, сообщил The Verge, что если бы OpenAI действительно использовала видео YouTube в своем процессе обучения, это было бы неприемлемой практикой.
В конечном счете, OpenAI остается окутанной атмосферой секретности, и проблема непоследовательной прозрачности Сэма Альтмана отказывается исчезать. Эта двусмысленность потенциально может нанести ущерб репутации OpenAI, но она также подогревает интригу, поскольку компания позиционирует себя как тайный технологический новатор, обещающий заглянуть в наше будущее. Несмотря на скептицизм вокруг коммуникаций OpenAI, учитывая ее «открытое» заявление о миссии, компания продолжает предоставлять новаторские решения в области искусственного интеллекта.
Смотрите также
- Apple готовится к летним Олимпийским играм 2024 года: обновляет карты, телетрансляции, избранные приложения и многое другое
- Мистер Бейтс против почтового отделения (2024), обзор PBS – театрализованный пересказ реальной судебной ошибки.
- Доктор Кто Диснея – Краткое содержание и обзор эпизода 4 «73 ярда»
- Кошмары и мечты Джоко Анвара – Краткое содержание и обзор эпизода 3
- Обзор первого сезона «Глубокой ночи» – милый, но предсказуемый тайский BL
- Продлили ли «Антрацит» на 2 сезон? Вот что мы знаем:
- Рецензия на фильм «Брэнди Хеллвилл и культ быстрой моды» (2024) – взгляд на взлеты и падения индустрии моды
- Функция истории мерцательной аритмии на Apple Watch одобрена FDA для оценки медицинских устройств
- Странная визуализация НАСА перенесет вас внутрь черной дыры
- Приз «Большая дверь» – краткий обзор и обзор 2-й серии 5-й серии
2024-05-22 16:00