Компания OpenAI учредила программу грантов на $1 млн в области кибербезопасности технологий на основе искусственного интеллекта (ИИ).

Основная цель инициативы — изменение подхода к безопасности в онлайн-пространстве «за счет применения ИИ и координации действий единомышленников».

Согласно заявлению, фонд OpenAI будет выплачивать по $10 000 проектам, которые представят свои идеи и пройдут отбор.

В компании выделил три главных направления:

• расширение возможностей «защитников» посредством внедрения инструментов на основе ИИ;
• решения для оценки эффективности технологий кибербезопасности для улучшения их возможностей;
• стимулирование обсуждений вокруг ИИ-безопасности.

«Хотя нападающие сталкиваются с меньшими ограничениями и пользуются своей гибкостью, у защитников есть кое-что более ценное — координация для достижения общей цели ради безопасности людей», — заявили в компании.

OpenAI также предложила свои идеи для возможных проектов:

• сбор, анализ и сортировка данных о киберпреступлениях;
• механизмы по изучению социальной инженерии;
• автоматизация исправления уязвимостей;
• создание «приманок» для злоумышленников;
• обнаружение вредоносных программ с помощью ИИ;
• создание безопасного ПО для написания и публикации кода.

Ранее глава компании Сэм Альтман призвал Конгресс США к регулированию искусственного интеллекта. Бизнесмен предложил сформировать новое агентство по вопросам ИИ, которое занималось бы выдачей и изъятием лицензий на разработку подобных технологий.

Напомним, в мае вице-президентка США Камала Харрис провела встречу с Альтманом и другими руководителями техгигантов, на которой они обсудили риски искусственного интеллекта.