684
Великобритания осваивает инструменты для проверки безопасности моделей ИИ
Набор инструментов, получивший название Inspect, доступен по лицензии с открытым исходным кодом, в частности, по лицензии MIT, предназначен для оценки определенных возможностей моделей ИИ, включая основные знания моделей и способность рассуждать, и получения оценки на основе результатов.
Сотрудники Института безопасности заявляют, что Inspect знаменует собой «первый случай, когда платформа для тестирования безопасности ИИ, которая была инициирована поддерживаемым государством органом, была выпущена для более широкого использования».
«Успешное сотрудничество в области тестирования безопасности ИИ означает наличие общего, доступного подхода к оценке, и мы надеемся, что Inspect может стать строительным блоком», — сказал в своем заявлении председатель Института безопасности Ян Хогарт. «Мы надеемся, что мировое сообщество ИИ будет использовать Inspect не только для проведения собственных тестов безопасности модели, но и для адаптации и развития платформы с открытым исходным кодом, чтобы мы могли производить высококачественные оценки по всем направлениям».
Inspect состоит из трех основных компонентов: наборов данных, решателей и скореров. Наборы данных предоставляют образцы для оценочных тестов. Решатели выполняют работу по проведению тестов. А скореры оценивают работу решателей и агрегируют баллы из тестов в метрики. Встроенные компоненты Inspect могут быть дополнены сторонними пакетами, написанными на Python.
Дебора Радж, научный сотрудник Mozilla и известный специалист по этике ИИ, назвала Inspect «свидетельством силы государственных инвестиций в инструменты с открытым исходным кодом для подотчетности ИИ».
По материалам techcrunch.com.
