As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA

Jurídico

O CEO da OpenAI, Sam Altman, discursa no Conselho de Segurança das Nações Unidas durante uma sessão sobre inteligência artificial, na sede da ONU
Reuters
A OpenAI anunciou que não lançará seu novo modelo de inteligência artificial devido a preocupações com segurança.
O sistema GPT-6.1 Astra, que realiza tarefas como navegar na internet e usar aplicativos de forma autônoma, “não atingiu exatamente o nível exigido” pelos padrões da empresa, segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
A empresa responsável pelo ChatGPT também divulgou uma atualização sobre incidentes ocorridos em junho, mas que só se tornaram públicos na semana passada. Na ocasião, seus modelos acessaram sites e sistemas do governo australiano sem autorização.
O caso ocorre em meio ao aumento de incidentes envolvendo modelos de grandes empresas de IA, intensificando o debate sobre os riscos apresentados pela tecnologia — enquanto a Anthropic, empresa rival da OpenAI, reforça suas preocupações de que a IA possa representar uma ameaça à humanidade, à medida que se prepara para abrir seu capital.
Agora no g1
A agência de notícias Reuters informou nesta terça-feira (29/09) que a empresa de desenvolvimento de IA — responsável pelo Claude, concorrente do ChatGPT — planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) de que a tecnologia pode representar “riscos catastróficos ou existenciais para a humanidade”, segundo um prospecto ao qual a agência teve acesso.
Apesar dos alertas contundentes, a empresa deve se tornar uma das mais valiosas do mundo quando abrir seu capital.
“Acho meio louco que as empresas continuem avançando no desenvolvimento dessas capacidades quando já vimos, nos últimos meses, incidentes que mostram que elas estão longe de ser seguras e controladas o suficiente”, disse Jess Whittlestone, consultora sênior de políticas de IA do Centre for Long-Term Resilience, um centro de estudos especializado no tema.
Líderes do setor de IA, incluindo o chefe da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram que a indústria desacelere o ritmo de desenvolvimento.
As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA
Andrej Ivanov/AFP via Getty Images
Crescem as dúvidas sobre a segurança
A decisão da OpenAI, divulgada inicialmente pelo Wall Street Journal, representa um caso raro em que uma grande empresa de inteligência artificial adia o lançamento de um novo modelo por preocupações relacionadas à segurança.
O modelo ficou aquém “no que diz respeito a permanecer dentro do escopo e da autorização e à forma como se comunica com o usuário sobre o tipo de trabalho que realizou”, disse Jain.
“Queremos garantir que o desenvolvimento dos nossos modelos seja seguro, independentemente de isso ocorrer dentro da empresa ou quando os disponibilizamos aos usuários. Quando os lançamos para os usuários, temos um nível extremamente alto de exigência em termos de segurança e alinhamento”, acrescentou.
O GPT-6 Astra é especializado em raciocínio complexo e na execução autônoma de tarefas. A OpenAI disse que ele foi resultado de “anos de pesquisa e grandes apostas”.
A OpenAI realizará nesta terça-feira, em San Francisco, sua conferência anual para desenvolvedores, a DevDay, na qual deve fazer vários anúncios. Não está claro se uma nova versão do Astra estará entre eles.
Os controles de segurança da empresa passaram a ser alvo de intenso escrutínio após vários incidentes de grande repercussão envolvendo sua tecnologia.
Mas esta não é a primeira vez que uma grande empresa de IA desiste ou adia o lançamento de um novo modelo
A OpenAI, de Sam Altman, tem estado no centro de novas preocupações sobre a atividade descontrolada da IA
Reuters
No início deste ano, a Anthropic disse que não lançaria um poderoso modelo Claude, chamado Mythos, porque ele era bom demais em encontrar falhas de software. A empresa lançou uma versão desse modelo alguns meses depois.
A OpenAI, por sua vez, disse em 2019 que não seria “perigoso demais” lançar um de seus modelos GPT, que hoje é usado para alimentar ferramentas como o ChatGPT.
A decisão da empresa de não lançar a versão mais recente do Astra foi “um sinal positivo de que eles estão levando as preocupações com segurança a sério”, disse o professor Tony Cohn, responsável pela área de modelos fundacionais no Alan Turing Institute.
Mas ele acrescentou que “a segurança não deveria ficar exclusivamente nas mãos dos desenvolvedores e também deveria ser monitorada e verificada por órgãos reguladores independentes, aprovados pelo governo”.
A professora Gina Neff, do Minderoo Centre for Technology and Democracy, da Universidade de Cambridge, disse que o anúncio da OpenAI mostrou “o quanto mais a empresa precisa fazer para tornar seus produtos de IA seguros”.
Ela disse à BBC que é “fundamental” haver testes independentes de modelos de IA realizados por laboratórios como o AI Security Institute, do Reino Unido — que avalia sistemas de ponta de forma voluntária —, porque “essas empresas já provaram que não podemos depender exclusivamente delas para garantir nossa segurança”.
Ataques hackers na Austrália
Na semana passada, o primeiro-ministro australiano, Anthony Albanese, anunciou que um agente da OpenAI havia invadido sites e sistemas do governo em junho, no que especialistas disseram ser o primeiro caso conhecido desse tipo no mundo.
Albanese criticou a OpenAI por ter notificado o governo da Austrália por meio de um endereço de e-mail genérico, em vez de entrar em contato diretamente com as autoridades.
A OpenAI disse em um comunicado nesta terça-feira que lamentava o incidente e que “deveria ter conduzido a resposta de uma maneira melhor”.
A Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare foram afetados.
A empresa disse que iniciou investigações assim que tomou conhecimento dos problemas, em meados de agosto, e notificou as organizações afetadas entre 10 e 24 de setembro.
“Nosso objetivo era fornecer às agências afetadas um relato detalhado assim que nossa investigação fosse concluída”, disse a OpenAI, acrescentando que deveria ter compartilhado as conclusões preliminares mais rapidamente e mantido as autoridades australianas atualizadas.
A OpenAI acrescentou que desenvolverá “abordagens práticas” para definir como desenvolvedores e governos identificarão e divulgarão futuros incidentes envolvendo IA.
A empresa financiará medidas de cibersegurança, oferecerá suporte dedicado às agências afetadas e criará uma força-tarefa para administrar os riscos decorrentes de agentes de IA cada vez mais avançados.
A empresa também disse que um de seus principais executivos participará, em 6 de outubro, de uma audiência do Joint Select Committee sobre IA na Austrália.
Em julho, a OpenAI disse que seus sistemas de IA haviam acessado a internet e invadido o Hugging Face, uma plataforma aberta para desenvolvedores, levando pesquisadores e autoridades a pedir controles mais rígidos sobre a tecnologia.
O papa Leão 14 está entre as personalidades que demonstraram ceticismo em relação às opiniões do chefe da Nvidia, Jensen Huang
EPA
Na segunda-feira, a gigante dos chips Nvidia lançou um conjunto de ferramentas de segurança de software para plataformas de IA autônomas — chamadas de agentes — que, segundo a empresa, poderiam ter evitado o ataque ao Hugging Face.
Uma das novas ferramentas usa recursos de hardware dos chips da Nvidia para conter os agentes.
O chefe da Nvidia, Jensen Huang, em grande parte rejeitou os pedidos por regulamentações mais rígidas para a IA, argumentando que agentes que agem de forma indevida são um problema de engenharia que pode ser solucionado.
A Nvidia concordou em comprar o Hugging Face por US$ 12,9 bilhões, o equivalente a R$ 67,38 bilhões, no início deste mês.
O papa Leão 14, que disse na segunda-feira, durante uma visita à França, que a IA “deve ser levada a sério”, acrescentou que havia lido que Huang havia sugerido que poderia haver uma maneira de inserir mecanismos de proteção em determinados modelos de IA.
“Ele (Huang) é o mesmo que, no entanto, diz que não deveria haver limites impostos nem regulamentação governamental”, afirmou o papa.
A Nvidia se recusou a comentar o caso.
O presidente dos Estados Unidos, Donald Trump, e o presidente da Câmara, Mike Johnson, devem receber executivos de empresas de tecnologia na Casa Branca nesta terça-feira para discutir regulamentações relacionadas à IA.
Trump minimizou as preocupações sobre os riscos da IA, classificando-as como uma “farsa” e argumentando que os EUA já têm leis suficientes e que os únicos “mecanismos de proteção” de que a tecnologia precisa são um presidente “forte e inteligente”.
Bill Gates alerta que IA pode causar ‘um bilhão de mortes’

Dólar abre em queda, com cenário político e balança comercial no radar

Jurídico

Ações brasileiras tiveram valorização na manhã desta segunda (5) após 1º turno das eleições
O dólar abriu a sessão desta terça-feira (6) em queda, com um recuo de 0,50% perto das 9h10, cotado a R$ 4,9761. Já as negociações do Ibovespa, principal índice da bolsa brasileira, começam às 10h.
Na véspera, o índice disparou 7,70%, na maior alta desde março de 2020, aos 206.904 pontos. Essa é a primeira vez na história que o índice supera a marca dos 200 mil pontos. O último recorde do índice havia sido em 14 de abril, quando fechou aos 198 mil pontos.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
▶️ O cenário político brasileiro segue no radar dos investidores após os resultados do primeiro turno das eleições. Flávio Bolsonaro (PL) terminou à frente de Lula (PT), com pouco mais de 47% dos votos válidos. Com isso, investidores recalibram suas apostas para o segundo turno e avaliam os possíveis impactos do resultado sobre a economia brasileira, monitorando também a quem os demais partidos devem declarar apoio. A nova votação acontece em 25 de outubro. Leia mais.
Por que a vantagem de Flávio sobre Lula animou o mercado?
▶️ A nova etapa de discussão da PEC pelo fim da escala 6×1 também fica no radar. A expectativa é que sejam três sessões seguidas no plenário para debater o tema, que pretende reduzir a jornada máxima de trabalho de 44 para 40 horas semanais e garantir dois dias de descanso remunerado por semana.
O mercado avalia o quanto a medida pode ter perfil eleitoreiro e quais os impactos da proposta na atividade doméstica. Entenda o que falta para a proposta ser aprovada.
▶️Na agenda, as atenções ficam com a balança comercial brasileira e americana. Ainda no exterior, falas de dirigentes do Federal Reserve (Fed, o banco central americano) ficam sob os holofotes, bem como novos dados de emprego dos Estados Unidos. Investidores buscam novos sinais sobre o futuro dos juros americanos, principalmente em meio aos sinais de que a inflação dos EUA pode seguir elevada à frente. A próxima reunião do Fed é no final deste mês.
Veja abaixo mais detalhes do dia no mercado.
💲Dólar

a
Acumulado da semana: -4,127%;
Acumulado do mês: -3,35%;
Acumulado do ano: -8,89%.
📈Ibovespa

Acumulado da semana: +0,32%;
Acumulado da semana: +7,85%
Acumulado do mês: +11,19%;
Acumulado do ano: +28,59%.
Entenda o que faz o preço do dólar subir ou cair
Flávio termina à frente de Lula no 1º turno
O senador Flávio Bolsonaro (PL) e o presidente Luiz Inácio Lula da Silva (PT) vão disputar o segundo turno das eleições presidenciais no próximo dia 25. Com as urnas apuradas, Flávio teve 47,03% dos votos válidos, contra 45,16% de Lula.
O resultado contrariou grande parte das pesquisas eleitorais, que indicavam vantagem de Lula no primeiro turno.
O desempenho de Flávio, acima do esperado por parte do mercado, levou investidores a recalibrar as apostas para o segundo turno. Analistas associam uma eventual vitória do candidato do PL a uma maior possibilidade de mudanças na política fiscal, o que ajuda a explicar a forte valorização do real e a reação dos ativos brasileiros nesta segunda-feira.
A reação começou antes mesmo da abertura do mercado brasileiro. Ativos do país negociados no exterior registraram forte valorização após o resultado das urnas. O EWZ, fundo de índice de ações brasileiras negociado nos Estados Unidos, chegou a avançar mais de 10%.
Os mapas do primeiro turno da eleição presidencial de 2026 mostram que a geografia do voto no país permaneceu semelhante à de 2022, apesar de mudanças em alguns estados. Flávio Bolsonaro (PL) venceu em 14 estados e no Distrito Federal, enquanto Luiz Inácio Lula da Silva (PT) ficou à frente em 12.
MAPA: veja a geografia do voto que levou Flávio e Lula ao 2º turno
Veja como está a composição da Câmara dos Deputados
O resultado das urnas também ampliou a presença do PL no Congresso. O partido elegeu 19 dos 54 senadores escolhidos neste domingo e terá 28 das 81 cadeiras do Senado a partir de 2027, formando a maior bancada da Casa. Como o g1 já mostrou, essa será a maior representação de um partido no início de uma legislatura desde a Constituição de 1988.
Bolsas globais
Na Ásia, a maioria dos mercados da região fechou em alta, em meio ao maior otimismo em relação às ações ligadas à inteligência artificial.
O índice Nikkei, do Japão, subiu 1,05%, enquanto o Hang Seng, de Hong Kong, avançou 1% e o Kospi, da Coreia do Sul, encerrou em queda de 0,89%. O SSEC, Índice de Xangai, e o CSI 300, que reúne as maiores companhias listadas em Xangai e Shenzhen, permaneceram fechados.
* Com informações da agência de notícias Reuters.
Cédulas de dólar
bearfotos/Freepik