OpenAI одобрила Закон о безопасности детей в Интернете (KOSA) в рамках своего обязательства установить «правила безопасности детей, специфичные для ИИ». Это одобрение совпадает с принятием KOSA Сенатом в 2024 году; Впервые законопроект был внесен в 2022 году.
KOSA требует, чтобы социальные сети и онлайн-платформы усилили защиту детей. Текущая версия требует, чтобы приложения для социальных сетей позволяли несовершеннолетним отказываться от «вызывающих привыкание» функций и алгоритмических рекомендаций. На онлайн-платформах также будет «обязанность заботиться» о вредном контенте, связанном с расстройствами пищевого поведения, самоубийствами и сексуальной эксплуатацией.
Другие технологические компании, в том числе Apple, Microsoft, Snap и X, также выразили поддержку KOSA. Напротив, NetChoice, торговая группа, в которую входят такие члены, как Meta, выступает против законопроекта, утверждая, что он может привести к цензуре без повышения безопасности детей. Организации по защите конфиденциальности и цифровых прав, такие как Electronic Frontier Foundation, также высказались против KOSA.
OpenAI заявила, что KOSA «дополняет» уже существующие меры безопасности. Директор по международным связям Крис Лихейн подчеркнул важность усиления мер защиты, отметив: «Мы не можем повторять ошибки, допущенные во время развития социальных сетей, когда более строгие меры защиты для подростков не были введены до тех пор, пока платформы уже глубоко не вошли в жизнь молодых людей».
В настоящее время OpenAI сталкивается с многочисленными судебными исками, обвиняющими в нарушениях безопасности, связанных с ChatGPT. В одном иске речь идет о семье, заявившей о смерти в результате противоправных действий после того, как подросток обсуждал с чат-ботом планы самоубийства. В другом иске утверждается, что подросток случайно получил передозировку наркотиков из-за плохой медицинской консультации, полученной от ChatGPT.
<час />
