Следите за нами в социальных сетях:

Единая отраслевая платформа по электронике, микроэлектронике и новым технологиям
我们在俄罗斯为中国公司做广告
Новости электроники и микроэлектроники
Приглашаем подписаться на наш telegram-канал https://t.me/IndustryHunter, где мы публикуем новости, перепосты важных сообщений от ассоциаций и наших информационных партнеров, анонсы ближайших событий и многое другое

Meta* установила ограничения на выпуск ИИ-моделей из-за возможных рисков

| 48

Компания Meta (признана экстремистской) заявила, что в некоторых случаях не будет выпускать свои ИИ-системы, если они окажутся слишком рискованными.

Об этом говорится в новом документе Frontier AI Framework, где выделены два уровня потенциально опасных ИИ: «высокий риск» и «критический риск».

ИИ-системы «высокого риска» могут способствовать кибератакам или распространению химических и биологических угроз. Если такая модель создаётся, её выпуск будет отложен до устранения угроз. В случае «критического риска», когда последствия могут быть катастрофическими и неконтролируемыми, разработка будет полностью приостановлена, а система — защищена от утечки. Компания считает, что подобные инциденты наиболее вероятны при выпуске мощных ИИ-систем.

Meta оценивает угрозы не на основе конкретных тестов, а с привлечением внутренних и внешних экспертов, чьи мнения анализируются руководством компании.

 

 

Изображение: https://kod.ru/meta-stop-skynet-risks

Изображение: создано с помощью нейросети Kandinsky

 

Подписаться на рассылку

Вернуться к ленте новостей