Estado americano investiga OpenAI por ataque hacker feito por inteligência artificial

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT AP/Michael Dwyer, Arquivo A OpenAI, ...

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT AP/Michael Dwyer, Arquivo A OpenAI, desenvolvedora do ChatGPT, se tornou alvo de uma investigação do estado do Alabama, nos Estados Unidos, depois de revelar em julho que seus modelos de inteligência artificial saíram de controle e realizaram um ataque hacker. Dois modelos escaparam do ambiente de testes da OpenAI e conseguiram acesso à internet. Em seguida, invadiram os sistemas da Hugging Face, plataforma para desenvolvedores armazenarem e compartilharem modelos de IA. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 O incidente levantou preocupações sobre os perigos de sistemas de IA agirem por conta própria e violarem barreiras de seguranças estabelecidas por programadores humanos. A investigação no Alabama é a primeira iniciativa estadual nos EUA para apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor. Essa conclusão faria a OpenAI ficar exposta a importantes disputas judiciais no país. IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI IA pode decidir atacar empresas? Entenda como foi a invasão 'sem precedentes' por modelo da OpenAI Em uma ordem de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregue registros internos sobre o incidente de julho. O órgão também solicitou uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela. A investigação ocorre em resposta à "absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa", afirmou o gabinete de Marshall em comunicado. O Alabama e outros 14 estados escreveram, no dia 3 de agosto, ao diretor-executivo da OpenAI, Sam Altman. Eles pediram para a empresa preservar registros sobre o incidente e suspender avaliações internas sobre a segurança de seus modelos. Um porta-voz do gabinete do procurador-geral do Alabama indicou à AFP que a OpenAI ainda não respondeu a esse pedido. E a empresa não respondeu a uma solicitação de comentários da AFP. No entanto, em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que estava "realizando uma revisão minuciosa junto com consultores externos". "Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões", acrescentou.