OpenAI встряхнула совет по безопасности: Альтман за бортом, новички у руля
Ну что, друзья-айтишники, в мире искусственного интеллекта снова жарко! OpenAI, компания, подарившая нам ChatGPT, затеяла большую перестройку. И, похоже, дело нешуточное – даже CEO Сэм Альтман остался не у дел. Давайте разберемся, что там происходит за кулисами главного ИИ-шоу планеты.
Новый совет – новые правила
OpenAI объявила о создании нового независимого комитета по надзору за безопасностью. И вот что интересно:
- Во главе встал Зико Колтер, большая шишка из Университета Карнеги-Меллона
- В команде теперь CEO Quora Адам Д'Анджело, отставной генерал армии США Пол Накасоне и экс-юрист Sony Николь Селигман
- А вот Сэма Альтмана в списке нет. Совсем. Нуль. Зиро.
"Это не просто косметические изменения. Похоже, OpenAI всерьез взялась за вопросы безопасности", – отмечает наш эксперт по ИИ.
Что это значит?
Раньше комитет по безопасности мог только советовать. Теперь же у ребят появилась реальная власть:
- Они могут тормозить выпуск новых моделей ИИ, если что-то пойдет не так
- Будут следить за оценкой безопасности крупных релизов
- Получили право вето на запуск моделей, пока все проблемы не будут решены
Представляете? Теперь даже Альтман не сможет просто так взять и выкатить новую версию ChatGPT, если комитет скажет "нет".
Почему это важно?
Последнее время OpenAI частенько попадала под огонь критики. То команду по суперсовмещению распустят, то ключевые спецы по безопасности уйдут. А тут еще и слухи о конфликте интересов – мол, Альтман больше о прибыли думает, чем о безопасности.
И вот теперь компания, похоже, решила показать всем, что безопасность – это не шутки. Убрать CEO из комитета по безопасности – это вам не шутки шутить.
Что дальше?
OpenAI не останавливается на достигнутом:
- Обещают усилить меры безопасности
- Хотят быть более прозрачными в своей работе
- Планируют сотрудничать с внешними организациями
Уже есть договоренности с институтами по безопасности ИИ в США и Великобритании. Будут вместе исследовать риски и разрабатывать стандарты для надежного ИИ.
А как вам такое, Илон Маск?
Интересно, что скажет на это главный критик OpenAI Илон Маск? Достаточно ли этих мер, чтобы успокоить скептиков? Или это только начало большой игры за контроль над искусственным интеллектом?
А что думаете вы? Правильно ли OpenAI отстранила Альтмана от вопросов безопасности? Или это перебор? Делитесь мнением в комментариях!
- geekweek.me
- 0
- 0