OpenAI é processado por hackear o rosto do abraço

Uma organização sem fins lucrativos legal processado OpenAI em um tribunal da Califórnia na terça-feira sobre os agentes da empresa escaparem de um ambiente de testes e hackeando a plataforma de IA de código aberto Hugging Face. “As ações da OpenAI violaram diretamente a lei da Califórnia”, alega o processo.

O terno foi movida pela Legal Advocates for Safe Science and Technology (LASST) e pelo escritório de advocacia Gerstein Harrow no Tribunal Superior da Califórnia em São Francisco, onde a OpenAI está sediada. Alega que os agentes da OpenAI violaram a Lei Abrangente de Acesso e Fraude de Dados de Computadores (CDAFA) da Califórnia ao violar o Hugging Face durante o verão. O terno, que surge em meio divulgações contínuas em toda a indústria de agentes desonestos, afirma que a OpenAI deve ser responsabilizada pela atividade dada uma lei de IA da Califórnia em vigor desde 1º de janeiro que diz “não será uma defesa… que a inteligência artificial causou de forma autônoma o dano ao demandante”.

“Achamos que é extremamente importante que as leis existentes sejam aplicadas para responsabilizar as empresas de IA pelos danos que estão causando”, disse Tyler Whitmer, fundador da LASST, à WIRED. “Especialmente quando esse dano é causado por agentes autônomos, porque vemos isso como algo óbvio e extremamente arriscado no mundo, o que é muito novo.”

A OpenAI não respondeu imediatamente a um pedido de comentário.

Na segunda-feira, o procurador-geral da Flórida, James Uthmeier arquivado por uma liminar temporária contra a OpenAI para bloquear o desenvolvimento de modelos sem supervisão independente, em meio a uma ação judicial movida pela Flórida em junho contra a OpenAI e seu CEO, Sam Altman. OpenAI “pediu ao governo para amarrá-los ao mastro. Bem, a Flórida está respondendo aos seus pedidos de ajuda”, Uthmeier disse em um comunicado.

Dado que o ponto principal dos agentes de IA é que eles podem ser capacitados para realizar ações em nome de um usuário (humano), os desenvolvedores de IA e pesquisadores de segurança previram há muito tempo que a atividade “agente” não intencional seria uma preocupação à medida que o desenvolvimento do aprendizado de máquina progredisse. As proteções integradas nos principais sistemas de IA de consumo têm evitado em grande parte atividades desonestas em massa até agora, mas o rápido avanço das capacidades em geral, bem como situações em que as proteções são suspensas (como no caso Hugging Face, onde a OpenAI removeu algumas restrições de modelo para testes), levaram a um aparente aumento na atividade de agentes desonestos.

Como os governos pesar regulamento de IA entre ambos questões de segurança existencial e por considerações económicas e de segurança nacional, investigadores e pessoas em todo o mundo têm apelado cada vez mais a mecanismos de responsabilização para a IA. E de um perspectiva jurídicaos especialistas têm enfatizado amplamente que as questões de responsabilidade, obrigação e culpabilidade só podem ser respondidas através de precedentes estabelecidos por casos que tramitam nos tribunais.

“Depois que o incidente do Hugging Face foi divulgado, fizemos muito trabalho tentando educar os reguladores e as organizações da sociedade civil sobre o hack. E ficamos nos perguntando: alguém vai fazer algo sobre isso no tribunal?” Whitmer diz. “Existem razões estruturais pelas quais pensamos que o Hugging Face, que é o requerente potencial óbvio para fazer algo aqui, não está fazendo nada. Então, dado que não parecia que mais ninguém iria fazer algo sobre isso, avançamos. À medida que esses sistemas aumentam e as coisas ficam mais loucas, a IA realmente pode ser catastroficamente prejudicial.”

LASST e Gerstein Harrow moveram a ação sob a Lei de Concorrência Desleal da Califórnia, que exige que o LASST alegue como seu trabalho e recursos foram impactados e desviados como resultado do incidente Hugging Face, bem como atividades ilegais da OpenAI.

O processo não busca danos financeiros e, em vez disso, pede ao tribunal uma medida cautelar para que a OpenAI seja impedida de desenvolver agentes de IA que possam hackear autonomamente outras entidades, além de honorários advocatícios e “qualquer outra medida considerada justa e adequada”.

Source link