Компанія Anthropic веде переговори з урядом США щодо контролю ризиків, пов'язаних із штучним інтелектом. Це сталося під час саміту Group of Seven, де керівництво стартапу отримало можливість обговорити питання регулювання ШІ з американськими посадовцями. За даними Politico, Білий дім і Anthropic працюють над створенням механізмів, які дозволять уряду США втручатися у випадках, коли ШІ-моделі можуть становити загрозу національній безпеці або економічній стабільності.
Серед ключових тем обговорення — формування єдиних стандартів оцінки ризиків перед запуском нових моделей, а також методика оцінки можливостей зловмисників у використанні ШІ для шкідливих цілей. У переговорах беруть участь посадовиця з питань публічної політики Sarah Heck та співзасновник Anthropic Tom Brown. Вони намагаються виробити чіткі правила оцінки ризиків, щоб уникнути криз у майбутньому та зробити взаємодію держави й розробників більш передбачуваною.