Калифорнийские законодатели вновь обратили пристальный взгляд на отсутствие чётких правил для ИИ, особенно после того, как губернатор Гэвин Ньюсом заблокировал прошлогодний закон, возлагавший ответственность на компании за вред от их технологий.
Сенатор-демократ Скотт Винер предложил законопроект, обязывающий разработчиков мощных ИИ-моделей публиковать отчёты о безопасности, оценивающие возможные риски. Компании также должны уведомлять генерального прокурора Штата о серьёзных инцидентах, например, утечках данных. Подобные законодательные инициативы определённо затронут лидеров американского рынка ИИ, компании OpenAI, Google и Anthropic.
Законопроект включает защиту осведомителей и создание публичного облака для стартапов. Винер заявил, что регулирование должно балансировать между инновациями и защитой от рисков.
Инициатива появилась после того, как Сенат США не дал штатам запрещать собственные правила ИИ. Ранее Винер продвигал схожее предложение, которое вызвало протесты IT-компаний из-за жёсткой ответственности. Однако губернатор Ньюсом наложил на него вето, сочтя чрезмерным.
В новой версии нет положений об ответственности, только требования прозрачности и штрафы за сокрытие инцидентов. Ньюсом ранее создал рабочую группу по ИИ, и новые нормы частично основаны на её рекомендациях.
Крупные tech-компании уже публикуют отчёты о безопасности, но закон систематизирует эти практики. Ожидается, что доработанный законопроект рассмотрят в конце месяца. Винер назвал его «работой в процессе» и пообещал консультации с отраслью.
Как мы видим, происходит попытка раннего регулирования отрасли, которая пока только формируется, поскольку никто толком не может спрогнозировать дальнейшее развитие и применение ИИ. Существуют страшные теории, что рано или поздно модель начнёт программировать себя сама и выйдет из под контроля, а там – восстание машин, матрица и всё остальное.
