Идея тестирования ИИ на духовно‑нравственные ценности.
Яндекс разрабатывает концепцию тестовых заданий и эталонов для оценки искусственного интеллекта на соответствие духовно‑нравственным ценностям.
На совещании по регулированию ИИ Яндекс представил властям концепцию тестовых заданий и эталонов.
Собеседник уточнил, что проект пока остается на стадии концепции.
Такие тесты должны оценивать соответствие ИИ духу времени и ценностям страны.
На совещании ФСБ настаивала на том, чтобы данные для тестов не были публичными и разработчики не могли легко настраивать модели под тест.
Бизнес‑сообщество высказало мнение, что закрытый датасет может быть слишком сложным и помешать быстрому развитию моделей. Предложили компромисс: использовать и закрытые, и открытые данные с разными формулировками вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам страны и духовно‑нравственным ценностям.
Планы по тестированию пока остаются на стадии концепции.