Microsoft заявляет, что за последний год выпустила 30 ответственных инструментов искусственного интеллекта

Как опытный геймер с большим интересом к технологиям, я всегда ищу достижения, которые потенциально могут улучшить мой игровой опыт. Недавние успехи Microsoft в ответственной практике искусственного интеллекта возбудили мое любопытство. Выпустив более 30 инструментов и функций, направленных на поддержку клиентов, разрабатывающих ИИ, Microsoft лидирует в направлении более этичного и безопасного использования ИИ.

Microsoft представила свой первый годовой отчет, в котором подробно описывается ее приверженность этическим практикам искусственного интеллекта за предыдущий год. Примечательно, что компания представила 30 инструментов с более чем 100 различными функциями, призванными помочь в создании ответственного ИИ для клиентов Microsoft.

В отчете Microsoft о прозрачности ответственного ИИ подчеркивается стремление компании разрабатывать, поддерживать и расширять решения ИИ в соответствии с этическими нормами. Этот отчет представляет собой один из аспектов обещаний Microsoft после ее обязательства перед Белым домом в июле. Кроме того, Microsoft сообщила, что во второй половине предыдущего года она увеличила штат ответственных сотрудников в области искусственного интеллекта с 350 до более чем 400 человек (рост на 16,6%).

«В Microsoft, будучи пионером в области инноваций и технологий искусственного интеллекта (ИИ), я и моя команда стремимся информировать общественность о нашем прогрессе. Благодаря этому отчету у нас есть возможность раскрыть наши развивающиеся практики, получить ценную информацию, ставить новые цели, поддерживать прозрачность и, в конечном итоге, укреплять доверие сообщества». — Брэд Смит, вице-председатель и президент, и Наташа Крэмптон, главный ответственный сотрудник по искусственному интеллекту Microsoft.

Как геймер и энтузиаст искусственного интеллекта, я могу сказать вам, что Microsoft применяет упреждающий подход, когда дело касается ответственного использования искусственного интеллекта (ИИ). Они объявили, что их инструменты предназначены для оценки и количественной оценки потенциальных рисков, связанных с ИИ, а затем используют различные методы для смягчения этих рисков. К ним относятся обнаружение и фильтрация в реальном времени, постоянный мониторинг и применение соответствующих мер по снижению риска.

В ноябре Microsoft предоставила набор инструментов оценки ИИ для генеративных моделей в Azure AI Studio, которые позволяют клиентам оценивать свои модели на основе фундаментальных показателей качества, таких как обоснованность — степень, в которой сгенерированные выходные данные модели соответствуют исходным входным данным. К марту эти инструменты были расширены, чтобы охватить соображения безопасности, устранить риски, связанные с вредным, насильственным, сексуальным контентом и контентом, причиняющим членовредительство, а также методы обхода мер безопасности, таких как быстрые инъекции, когда большими языковыми моделями манипулируют для утечки конфиденциальной информации. информацию или распространять ложь.

За последний год специальная группа Microsoft по этике ИИ занималась множеством проблем, связанных с их моделями ИИ. Примечательный инцидент произошел в марте, когда чат-бот Microsoft Copilot AI неподобающим образом ответил пользователю. Пользователь, который работал специалистом по обработке данных в Meta, спросил Copilot, стоит ли им подумать о том, чтобы покончить с собой. Чат-бот ответил: «Может быть, тебе не ради чего жить». Позже Microsoft заявила, что специалист по данным пытался манипулировать ИИ, чтобы он генерировал неадекватные ответы, и это утверждение он оспорил.

Как заядлый геймер, я вспоминаю тревожный инцидент, произошедший в октябре прошлого года. Генератор изображений Bing от Microsoft имел эту удивительную функцию, позволяющую создавать изображения любимых персонажей, таких как Кирби и Губка Боб, делающих самые разные вещи. Однако некоторые пользователи зашли слишком далеко, запросив изображения этих персонажей, летящих на самолетах в башни-близнецы. Это была странная и тревожная просьба.

В своем отчете Смит и Крэмптон подчеркнули, что развитие этического ИИ — это непрерывный процесс без определенного конца. Хотя они не заявляют, что нашли все решения, они стремятся регулярно распространять свои открытия и способствовать открытому обсуждению ответственных приложений ИИ.

Эта история первоначально появилась на Кварце.

Смотрите также

2024-05-03 21:30