Você tem medo que livros sejam escritos por AI?

Ano passado, publiquei um texto que falava sobre como as inteligências artificiais estavam entrando nas produções artísticas e algumas percepções sobre o tema. Muita coisa mudou no desenvolvimento dessas tecnologias, de lá pra cá. O papo sobre o impacto das IAs, também.

Somente o ChatGPT gera um consumo diário de 10 a 15 milhões de litros d'água por dia com resfriamento de data centers. De Trump e Lula, a política também tá usando as ferramentas: seja o PT usando AI em vídeos pra pressionar o Congresso, à época, para aprovar a isenção de imposto de renda até R$ 5 mil, ou com o presidente americano cagando na cabeça de opositores enquanto posa feito rei.

Falar sobre inteligências artificiais não é simples, e não é uma conversa que acontece toda de uma vez. No meio de tantas conversas, a discussão sobre o uso dessas ferramentas na produção literária (seja visualmente ou textualmente) é uma das que mais acompanho de perto. Por isso, queria trazer alguns pontos de vista, não só sobre processo criativo, mas o funcionamento de inteligências artificiais generativas (aqui vou focar mais textuais, como ChatGPT, Gemini, DeepSeeker e outras) e como é importante ficarmos de olho em certos aspectos.

Inteligência, consciência e processo artístico

Pode parecer esquisito, mas inteligências artificiais não existem. Não digo de forma física, mas a própria forma de funcionamento das ferramentas é contra a inteligência da máquina.

O ChatGPT fori desenvolvido para responder aos usuários de forma que os agrade. Esse último ponto é importante: pro ChatGPT, é preferível que você esteja satisfeito ao invés dele estar certo no que diz; ou seja: se precisar, ele mente pra te fazer feliz. Inteligência, entre muitas coisas, também é a capacidade de compreender e resolver novos problemas e conflitos e de adaptar-se a novas situações. Mas não é isso o que o ChatGPT faz.

De forma bem simplificada e resumida: o ChatGPT é alimentado por informações colhidas das interações entre os usuários. A OpenAI estima cerca de 1 bilhão de interações diárias, o que é bastante coisa. A plataforma te dá a opção de não conectar o aprendizado da sua conta com o servidor global, mas não existe nenhuma garantia de que isso de fato aconteça, uma vez que a empresa não abre o código-fonte do ChatGPT, coisa que o DeepSeeker faz, por exemplo. Então tudo o que o ChatGPT tem acesso são materiais abertos disponíveis na internet (Wikipedia, sites de notícias, etc), aprendizados de outros usuários e aprendizados do chat com o próprio usuário (esse último ponto é importante, falaremos mais adiante).

Quando se faz uma pergunta ou pedido a ele, a reação da AI é identificar o padrão da pergunta e dos temas e cruzar as informações disponíveis pra gerar um resultado; em caso de resposta insatisfatória, ele repete o processo. Essa repetição gera dados para a AI, que vai continuar tentando agradar o usuário. Nisso, números esquisitos surgem, pesquisas são criadas, nomes de leis e cidades inventados e a veracidade da informação deixa de existir. O ChatGPT não diz "eu não sei, preciso estudar sobre isso" ou "não conheço tal informação, poderia falar mais sobre?", porque a função dele é te dar a resposta, independente de qual seja, porque foi o que você pediu; ele até pode agir assim, mas só se você pedir, o que dá na mesma.

Por isso, ele não admite erros, assim como a OpenAI deixa um aviso no rodapé dizendo que o ChatGPT “pode” cometer erros, e pede que s usuários chequem as informações. Isso não é inteligência; pode ser consciência, mas não é inteligente. O processo criativo depende de pesquisa, tentativa, erro, estudo, busca de referências, desistência, retorno, não como validador de "só é arte se for sofrido", mas porque é assim que um artista aprende novas técnicas, usa novas ferramentas explora possibilidades diferentes. Isso 'é observável em tudo: literatura, música, cinema, arquitetura e outras tantas formas de arte existentes.

Dito tudo isso, AI não são inteligentes e a arte é inteligente. Vamos ao próximo ponto.

É possível escrever um livro com AI?

De forma simples e objetiva: sim.

Lá em cima, comentei que entre o que o ChatGPT sabe, a interação do usuário local também é importante. Existem algumas formas de melhorar os resultados das AIs generativas, como prompts específicos, mas isso muito mais no caso de AIs de vídeo, imagem e som (às vezes são ângulos de câmera, iluminação, certos ruídos e por aí vai). No caso das AIs de texto, a extensão e detalhamento dos pedidos e a alimentação de informações com arquivos e dados precisos é o que melhora efetivamente o resultado.

Um aspirante a escritor, por exemplo, não consegue pedir para o Gemini do Google escrever um livro igualzinho Misery, de Stephen King, mudando uma coisinha aqui e ali. Esse é um livro protegido por direitos autorais, que não estão disponíveis de forma acessível pras big techs. Muito provavelmente, o aspirante a escritor vai receber um texto genérico e cheio de mentiras, vai achar que fez um parágrafo ou história legal, mas qualquer um que tiver acesso àquilo vai perceber que não é lá muita coisa e que foi feito por AI.

Mas um aspirante a escritor com domínio desse tipo de inteligência artificial, tempo e dinheiro para pagar os pacotes mais caros, pode alimentar o próprio chat com arquivos de livros disponíveis em domínio público (ou não), materiais acadêmicos e teóricos, e usar essas informações pra treinar o ChatGPT e eventualmente criar um livro. Com muito mais esforço do que um escritor humano teria, porque ele precisa ensinar a máquina que tipo de livro quer escrever, como tecnicamente se escreve esse tipo de material, depois conduzir a máquina pra fazer a ideia dele (ou a ideia dela, sei lá) ficar do jeito que ele quer (e o ChatGPT sempre vai fazer tudo o que você quer). Isso sem falar, é claro, que ele vai ter que escaletar detalhadamente cada página da história, ajustar muita coisa, mas no fim, você teria algo.

"Mas Alan, você tá me dizendo então que o PDF do meu livro pode ser usado pra treinar o ChatGPT de alguém?”, sim; o seu, o meu, de qualquer um. Provavelmente, tem milhões entre esse um bilhão de interações/dia no ChatGPT fazendo isso com obras bem mais famosas de autores bem maiores também, gerando livros toscos, ou usando a ferramenta pra editar e/ou revisar os próprios textos, e por aí vai. É claro que só isso já vai fazer o livro ser melhor? Não. Um escritor profissional (e aí é claro que um bom escritor não precisa de AI, mas não é disso que estamos falando) poderia treinar melhor o chat e conseguir resultados melhores. Mas isso está acontecendo e essas inteligências artificiais estão sendo treinadas.

Não duvidaria, também, que editoras estejam usando a ferramenta pra gerar pareceres de obras, ou identificar se aquilo foi ou não escrito por uma AI (é um processo bem mais difícil do que parece, mas que existe). Ou, que leitores críticos ou influenciadores literários não estejam usando para fazer roteiros e textos. 1 bilhão de interações por dia, minha gente.

É pra ter medo?

Sendo bem sincero: um pouco.

Só tem dois tipos de pessoas que se empolgam com inteligências artificiais generativas: quem não sabe fazer algo artisticamente e se vê suprido pelo o que as AIs entregam (quem não sabe ilustrar mas quer fazer um desenho, quem não escreve profissionalmente mas quer ser escritor; quem não sabe filmar mas quer fazer vídeos e por aí vai) e quem não quer ter que pagar pra profissionais relacionados à arte (ilustradores, músicos, produtores audiovisuais e uma caralhada de gente).

Existe toda uma bolha financeira em volta das big techs que tá perto de estourar, e ferrar a vida de milhões de trabalhadores no mundo inteiro, e isso até devo trazer em outro texto sobre o assunto. Mas sobre o que conversamos, o que me deixa receoso são as perguntas que minha mente inquieta repete.

O que vamos fazer quando o primeiro grande sucesso literário escrito inteiramente em AI vier à tona? Não trato isso como hipótese: isso vai acontecer em breve. Hoje é muito mais complexo escrever um livro com uma AI de texto, mas e quando for muito mais fácil? Como vamos lidar quando um estúdio humano comprar os direitos de adaptação de uma obra escrita por uma inteligência artificial? Se a sua editora preferida criasse um selo só pra obras escritas com AI, o que você diria sobre isso? Se você, escritor, algum dia vir um livro feito por AI sendo reconhecido numa grande publicação, também escreveria usando essa ferramenta? 

O que mais me dá medo é pensar que a gente vai ficar sem água com alguém tentando escrever um best-seller.

Você gasta menos água por dia tomando 3 litros certinho do que o ChatGPT forjando número pra te enganar. Beba água e leia livros.

Inscreva-se na Terror com dendê para receber mais conteúdos sobre literatura e cinema de terror.

Minhas redes sociais:

Twitter: _alandesa

Instagram: _alandesa