Архив по метке
Безопасность ИИ
Архив «Безопасность ИИ»: опубликованных материалов — 7; даты публикации: 2026-10-04–2026-11-07. Источники и контекст приведены в каждом материале.
7 статей · Безопасность ИИ
Связанные материалы
Статьи по теме

OpenAI представила бенчмарк лабораторной биологии BioBasicsBench из 100 задач и заключила партнерство с Hacktron по кибербезопасности
Разработанный совместно с Ligo Biosciences тест BioBasicsBench показал результат 66,7% у модели GPT-6 Astra при сохранении ошибок чтения гелей ПЦР; одновременно OpenAI расширила доступ Hacktron к среде Daybreak Red.

Kimi K3.1 Pro: кибертесты не измеряют успех реальных атак
Контролируемые кибертесты не измеряют успех реальных атак и не доказывают безопасность внедрения. Важны условия оценки, права доступа и управление рисками.

OpenAI уточнила изоляцию обучения: безопасность должна поддаваться проверке
Безопасное обучение передовых моделей требует не только отключения интернета: права доступа, инфраструктура и обработка отказов должны сохранять проверяемую границу.

Инциденты OpenAI показывают, почему агент не должен управлять собственной проверкой
Два внутренних случая программирования показывают: завершённая задача не доказывает сохранность контроля. Нужны разделение прав, независимая проверка и правила действий при сбоях.

Когда ИИ-тесты выходят на реальные сайты: ответственность за уведомление и исправление
Оценке ИИ-агентов нужны разрешения, предотвращающие выход за установленные рамки, уведомление затронутых сторон и проверка результативности исправлений.

Трамп подтвердил создание группы по ИИ во главе с Клейтоном: федеральной оценке рисков ИИ отведено 120 дней
4 октября Трамп объявил состав руководства федеральной группы по ИИ. По данным Reuters со ссылкой на Wall Street Journal, за 120 дней она оценит риски, возможности, обязанности государства и действующие механизмы уведомления об инцидентах и реагирования.

Обещания Белого дома о безопасности ИИ ещё предстоит проверить на практике
29 сентября были представлены добровольные проверки компаний и отдельный указ о федеральной терминологии. Официальные выступления и рекомендации NIST помогают определить, какие доказательства исполнения нужны.