Bill Gates diz no Meet the Press que um acordo de IA entre países é mais difícil que o nuclear, e que o kill switch sozinho não evita o ataque.

A NBC News publicou neste domingo (27), às 9h no Leste dos EUA — 10h em Brasília. Alexandra Marquez registra que Bill Gates falou na quarta (23) e que a conversa foi ao ar hoje no Meet the Press. A frase que abre o texto de hoje: fazer os países concordarem com um marco global de IA pode ser “more difficult” do que as negociações da Guerra Fria para limitar armas nucleares. Mais adiante, ele diz que um kill switch sozinho não evita o ataque.

Bill Gates em pé, de suéter azul-marinho com a Fundação Gates no peito, diante de um fundo azul com o logo da Comissão Europeia

Comissão Europeia / Lukasz Kobus. O arquivo da foto data 11 de outubro de 2023. Licença CC BY 4.0. Não é o estúdio da NBC.

Overrated

tratar o clipe do bilhão de mortes como se fosse a entrevista inteira

Underrated

o registro que ele pede dentro do laboratório, e a taxa de erro que ele põe cerca de 10 vezes mais alta em línguas africanas

O clipe de sexta não é o programa de domingo

Na peça de 25 de setembro, às 7h no Leste, a NBC antecipou a entrevista, ainda por ir ao ar. Três frases já estavam nesse clipe.

O que saiu na sextaA frase
Autorregulação“No one thinks self-regulation is enough.”
Lei em Washington“Absolutely.”
Escala do risco“AI is certainly powerful enough to drive events that, you know, cause a billion deaths.”

Na tradução: ninguém acha que autorregulação basta. Legislação, sim, com certeza. A IA é poderosa o bastante para impulsionar eventos que causem um bilhão de mortes. No mesmo clipe, salvaguardas seriam “a little bit of overhead for the industry, but not a dramatic slowing”. Um pouco de custo para a indústria, sem uma desaceleração dramática.

O texto de domingo não apaga esse clipe. Acrescenta o resto.

Mais difícil que o nuclear

A citação curta, no texto de hoje:

“This is more difficult than that was.”

“Isso é mais difícil do que aquilo foi.” A NBC cola a frase na comparação com as negociações nucleares da Guerra Fria. No mesmo trecho, Gates lista o que os Estados Unidos já lideraram depois da Segunda Guerra: segurança da aviação, camada de ozônio, armas nucleares. A IA, na fala dele, volta ao ponto: “humanity is all in this together”. A humanidade está nisso junta.

O contraste que a NBC põe ao lado é um post de Donald Trump no Truth Social, em 14 de setembro. A reportagem daquele dia transcreve: “WHOEVER WINS AI, WINS! We are leading China, and all others, and will continue to do so.” Quem ganhar a IA, ganha. Estamos à frente da China e de todos os outros, e vamos continuar assim.

A NBC escreve que, para Gates, impor monitoramento às empresas de IA não atrapalharia os Estados Unidos nessa corrida. A frase dele:

“What he said is fine, but I think after he hears from me and other people, including that this does not handicap us in whatever he thinks the nation-state race is, that, you know, we will come to a consensus.”

Tradução: o que Trump disse está bem, mas Gates acha que, depois de ouvir a ele e a outras pessoas — inclusive que isso não atrapalha os Estados Unidos na corrida entre países —, vai haver um consenso.

O botão de desligar não substitui o registro

A NBC descreve uma proposta bipartidária no Congresso que exigiria um kill switch: um jeito de a empresa suspender ou desligar o serviço na hora. O texto não publica o número do projeto.

Gates não descarta o botão.

“I would never want to say I’m against a kill switch. But when you’re trying to moderate the bad behavior, you need insight and records of what’s being done. So the kill switch alone would not prevent these tragedies.”

Ele não quer dizer que é contra um kill switch. Para moderar o mau comportamento, é preciso enxergar e ter registro do que está sendo feito. O kill switch sozinho não evitaria essas tragédias.

O monitoramento que ele descreve é “where you’re watching what the AI is doing”: ver o que a IA está fazendo, dentro de cada laboratório. Sem isso, a polícia chamada para fraude ou para um apagão na rede elétrica “their ability to see what’s going on is going to be nil”. A capacidade de ver o que aconteceu seria nula.

Desacelerar, na frase dele, é outro debate.

“That’s another debate — of should we slow down or not. But deciding to put the safeguards and monitoring in, that’s a choice we have. And the only question is, Do we do that before or after there’s some large-scale cyberattacks or bioattacks?”

Tradução: desacelerar ou não é outra discussão. Colocar salvaguardas e monitoramento é uma escolha que existe. A pergunta é se isso acontece antes ou depois de ciberataques ou ataques biológicos em grande escala.

A gravação é de quarta. A pausa que a OpenAI tornou pública na sexta ainda não estava no ar quando ele sentou. Esta matéria não trata a frase como comentário daquele relatório.

O risco que ele põe na frente não é um calendário de extinção. É o uso de hoje.

“The most dangerous thing we’re facing right now is people with bad intent using AI.”

A coisa mais perigosa agora, na fala dele, são pessoas com má intenção usando IA: fraude, derrubar a rede elétrica, embaralhar contas bancárias. Em seguida: “small groups with AI can do what only the biggest countries could do”. Grupos pequenos, com IA, podem fazer o que antes só os maiores países faziam.

Em 20 de setembro, na CBS, Jensen Huang falou em 0% de chance de 2030 ser o fim do mundo. Gates, neste programa, não baixa o risco a zero. Também não marca o ano.

A taxa de erro que ele pôs na língua

No mesmo programa, Gates falou da Fundação Gates e de línguas que não são o inglês.

“AI models have gotten very good at recognizing English and about a dozen other mainstream languages. [...] In African languages, the error rate will be about 10 times higher.”

Os modelos, na frase, ficaram muito bons em inglês e em cerca de uma dúzia de outras línguas de grande uso. Em línguas africanas, a taxa de erro seria cerca de 10 vezes mais alta. Erros, ele acrescenta, podem ser “very dangerous”.

Ele não listou a dúzia. Esta matéria não coloca o português dentro nem fora dela.

A NBC registra que a fundação trabalha com 60 empresas de IA para ampliar as línguas em que o modelo é confiável. O prazo que ele disse ter: em cinco anos, toda língua falada por um milhão de pessoas ou mais perto da qualidade do inglês, o bastante para uma entrevista de saúde ou uma sessão de educação.

O caixa também é frase de programa, não balanço auditado por esta redação. A fundação vai gastar todo o dinheiro nos próximos 19 anos e tem “a bit over $200 billion”, um pouco mais de US$ 200 bilhões. Com IA, esse dinheiro seria “far, far better spent”.

No mesmo domingo, outra receita

A NBC também registra Ro Khanna, deputado democrata da Califórnia, no Meet the Press de hoje. Banir modelos que se melhoram sozinhos “should not be controversial”. A frase que o texto atribui a ele: os Estados Unidos podem liderar um tratado verificável que barre “recursive, self-improving AI” e tenha algum monitoramento dos laboratórios de fronteira.

É outra receita. Gates, no texto de hoje, separa monitoramento de desaceleração. Khanna fala em banir um tipo de modelo. Nenhum dos dois publicou o texto de uma lei.

Bill Gates de suéter azul-marinho, com as mãos na frente do corpo, diante do fundo azul da Comissão Europeia

Comissão Europeia / Lukasz Kobus. O mesmo arquivo de 11 de outubro de 2023, noutro corte. Continua não sendo o Meet the Press.

Fontes