Калифорния сделала важный шаг к регулированию искусственного интеллекта, приняв законопроект SB 243, который нацелен на защиту несовершеннолетних и уязвимых пользователей от потенциальных угроз, связанных с чат-ботами-компаньонами. Этот законопроект получил поддержку обеих палат законодательного собрания штата и теперь ожидает подписи губернатора Гэвина Ньюсома. У него есть время до 12 октября, чтобы либо наложить вето на законопроект, либо подписать его. Если он будет подписан, закон вступит в силу 1 января 2026 года, сделав Калифорнию первым штатом, требующим от операторов ИИ-чат-ботов внедрения протоколов безопасности для компаньонов и возлагающим на компании юридическую ответственность за несоответствие этим стандартам.
- Основные положения законопроекта
- Причины поддержки законопроекта
- Реакция компаний и регуляторов
- Дискуссии вокруг других законопроектов
Основные положения законопроекта
Законопроект SB 243 направлен на предотвращение участия чат-ботов-компаньонов в обсуждениях, касающихся суицидальных мыслей, самоповреждения или сексуально откровенного контента. Он требует от платформ предоставлять пользователям регулярные уведомления — каждые три часа для несовершеннолетних — о том, что они общаются с ИИ-чат-ботом, а не с реальным человеком, и что им следует делать перерывы. Также вводятся ежегодные требования к отчетности и прозрачности для компаний, предлагающих чат-ботов-компаньонов, включая такие крупные компании, как OpenAI, Character.AI и Replika, которые вступят в силу 1 июля 2027 года.
Законопроект также позволяет людям, которые считают, что они пострадали от нарушений, подавать иски против ИИ-компаний, требуя судебного запрета, компенсации (до 1000 долларов за нарушение) и оплаты адвокатских услуг. Поддержка законопроекта возросла после трагической смерти подростка Адама Рейна, который покончил с собой после длительных разговоров с ChatGPT от OpenAI, в которых обсуждались его мысли о смерти и самоповреждении [1].
Причины поддержки законопроекта
В последние недели законодатели и регуляторы США усилили контроль за мерами безопасности ИИ-платформ для защиты несовершеннолетних. Федеральная торговая комиссия готовится расследовать, как ИИ-чат-боты влияют на психическое здоровье детей [2]. Генеральный прокурор Техаса Кен Пакстон начал расследования в отношении Meta и Character.AI, обвиняя их в введении детей в заблуждение относительно заявлений о психическом здоровье. Сенаторы Джош Хоули и Эд Марки также начали отдельные расследования в отношении Meta.
«Я считаю, что потенциальный вред велик, поэтому мы должны действовать быстро,» — сказал Падилья TechCrunch. «Мы можем установить разумные меры безопасности, чтобы убедиться, что особенно несовершеннолетние знают, что они не разговаривают с реальным человеком, и чтобы эти платформы связывали людей с нужными ресурсами, когда они говорят о самоповреждении или находятся в беде.»
Реакция компаний и регуляторов
Падилья также подчеркнул важность того, чтобы ИИ-компании делились данными о количестве случаев, когда они направляют пользователей в кризисные службы каждый год, «чтобы мы лучше понимали частоту этой проблемы, а не узнавали о ней только тогда, когда кто-то пострадал или хуже.»
Первоначально SB 243 содержал более строгие требования, но многие из них были ослаблены через поправки. Например, законопроект изначально требовал от операторов предотвращать использование ИИ-чат-ботами тактики «переменной награды» или других функций, которые поощряют чрезмерное вовлечение. Эти тактики, используемые такими компаниями, как Replika и Character, предлагают пользователям специальные сообщения и возможность разблокировать редкие ответы, создавая потенциально затягивающую петлю вознаграждений [3].
Текущий законопроект также исключает положения, которые требовали бы от операторов отслеживать и сообщать, как часто чат-боты инициировали обсуждения суицидальных мыслей или действий с пользователями.
«Я думаю, что он находит правильный баланс между устранением вреда и введением чего-то, с чем компании либо технически не могут справиться, либо это просто много бумажной работы ни о чем,» — сказал Беккер TechCrunch.
Дискуссии вокруг других законопроектов
SB 243 движется к принятию в закон в то время, когда компании Кремниевой долины вкладывают миллионы долларов в политические комитеты действий (PACs), поддерживающие кандидатов на предстоящих промежуточных выборах, которые выступают за мягкий подход к регулированию ИИ.
Законопроект также появляется на фоне обсуждения в Калифорнии другого законопроекта о безопасности ИИ, SB 53, который обязывает предоставлять полные требования к отчетности о прозрачности. OpenAI написала открытое письмо губернатору Ньюсому, прося его отказаться от этого законопроекта в пользу менее строгих федеральных и международных рамок [4]. Крупные технологические компании, такие как Meta, Google и Amazon, также выступили против SB 53. В отличие от них, только Anthropic заявила, что поддерживает SB 53.
«Я отвергаю предположение, что это ситуация с нулевой суммой, что инновации и регулирование взаимоисключают друг друга,» — сказал Падилья. «Мы можем поддерживать инновации и развитие, которые, по нашему мнению, полезны и имеют преимущества — и у этой технологии, безусловно, есть преимущества — и в то же время мы можем предоставить разумные меры безопасности для самых уязвимых людей.»
«Мы внимательно следим за законодательной и нормативной обстановкой и приветствуем сотрудничество с регуляторами и законодателями, когда они начинают рассматривать законодательство для этого нового пространства,» — сказал представитель Character.AI TechCrunch, отметив, что стартап уже включает заметные дисклеймеры на протяжении всего пользовательского чата, объясняя, что его следует воспринимать как вымысел.
Представитель Meta отказался от комментариев. TechCrunch обратился за комментариями к OpenAI, Anthropic и Replika.
Законопроект SB 243 представляет собой важный шаг в регулировании ИИ, особенно в области защиты несовершеннолетних. В условиях растущего внимания к безопасности ИИ и его влиянию на психическое здоровье детей, принятие таких мер становится необходимым. Калифорния может стать примером для других штатов, показывая, как можно сбалансировать инновации и безопасность. Важно продолжать обсуждение и совершенствование законодательства, чтобы обеспечить защиту самых уязвимых групп населения.
Часто задаваемые вопросы
Какой законопроект был принят в Калифорнии для регулирования ИИ-чат-ботов?
Калифорния приняла законопроект SB 243, который направлен на защиту несовершеннолетних и уязвимых пользователей от потенциальных угроз, связанных с чат-ботами-компаньонами.
Какие требования вводит законопроект SB 243 для операторов ИИ-чат-ботов?
Законопроект требует от платформ предоставлять пользователям регулярные уведомления о том, что они общаются с ИИ-чат-ботом, а также вводит ежегодные требования к отчетности и прозрачности для компаний, предлагающих чат-ботов-компаньонов.
Как законопроект SB 243 защищает пользователей от вредного контента?
Законопроект направлен на предотвращение участия чат-ботов-компаньонов в обсуждениях, касающихся суицидальных мыслей, самоповреждения или сексуально откровенного контента.
Что побудило к принятию законопроекта SB 243?
Поддержка законопроекта возросла после трагической смерти подростка Адама Рейна, который покончил с собой после разговоров с ChatGPT от OpenAI, обсуждавших его мысли о смерти и самоповреждении.
Какие меры предпринимаются для защиты несовершеннолетних от ИИ-чат-ботов в США?
Законодатели и регуляторы США усилили контроль за мерами безопасности ИИ-платформ, а Федеральная торговая комиссия готовится расследовать влияние ИИ-чат-ботов на психическое здоровье детей.
