Sam Altman teme o efeito da IA ​​nas eleições

Mais uma vez, o CEO da OpenAI, Sam Altman – cujo lançamento em novembro do popular chatbot ChatGPT provavelmente deu início à ampla adoção pública da tecnologia de IA generativa – está preocupado com os impactos da tecnologia que ele está trabalhando ativamente para construir.

Desta vez, ele está preocupado com os efeitos potencialmente destrutivos que as ferramentas generativas de IA podem ter no processo democrático, argumentando que a mídia sintética de alta qualidade e hiperdirecionada pode ser uma força poderosa e potencialmente prejudicial em eleições futuras – um medo que já foi levantado por vários especialistas e líderes do setor.

“Estou nervoso com o impacto que a IA terá nas eleições futuras (pelo menos até que todos se acostumem com ela)”, escreveu Altman em uma postagem do X-ex-Twitter na quinta-feira, “persuasão 1:1 personalizada, combinada com alta mídia gerada de alta qualidade será uma força poderosa."

É uma preocupação justa. A mídia gerada por IA já foi usada em vários anúncios de campanha americana relacionados às eleições de 2024, principalmente por empresas como o Comitê Nacional Republicano e a campanha do candidato presidencial Ron Desantis, que usou ferramentas de IA para gerar imagens falsas de uma China imaginária. -Invasão dos EUA e presidente Joe Biden beijando o ex-líder da resposta à pandemia dos EUA, Anthony Fauci, respectivamente.

A desinformação gerada pela IA também já provou ser bastante convincente. Embora tenha sido rapidamente desmascarada como notícia falsa, uma provável fotografia gerada por IA de um atentado bombista perto do Pentágono, por exemplo, causou uma breve mas notável queda no mercado de ações depois de se tornar viral no Twitter em maio.

E em junho, imagens sintéticas de roupas infantis demoníacas na Target levaram grupos de mídia social de extrema direita a uma espiral de guerra cultural - um incidente que parece corresponder ao alerta de Altman sobre a persuasão personalizada. As pessoas tendem a buscar informações que confirmem aquilo em que já acreditam; com a orientação certa e a plataforma certa, pode ser relativamente fácil atrair certos grupos ideológicos para armadilhas sintéticas de desinformação.

É claro que, considerando que Altman está lucrando com as ferramentas que ele regularmente alerta serem perigosas, às vezes é difícil levá-lo a sério quando ele fala sobre os riscos da IA, mesmo quando ele está objetivamente certo em se preocupar. Mas, como ele mesmo disse no passado, provavelmente é melhor que ele tenha algum medo em relação às suas criações, em vez de ignorar quaisquer riscos de uma vez.

“Embora não seja uma solução completa, aumentar a conscientização sobre isso é melhor do que nada”, escreveu ele naquele tópico de quinta-feira no X. “Estamos curiosos para ouvir ideias e teremos alguns eventos em breve para discutir mais”.

Mais sobre Sam Altman:CEO da OpenAI espera que os líderes mundiais nos salvem da IA ​​que ele está construindo

Compartilhe este artigo