Questão 2885291

Texto 1

Suspeita e cuidado nos usos humanos das Inteligências Artificiais Generativas

Lucia Santaella

Daqui a poucas décadas celebraremos um século desde que o computador emergiu como um novo personagem nas sociedades humanas. No início, suas performances estavam reduzidas ao saber dos especialistas, analistas de sistemas e informáticos, e seus resultados se faziam sentir em zonas de atuação empresariais e governamentais que não eram apreensíveis à sociedade como um todo. Um salto paradigmático se deu quando o computador se tornou um artefato pessoal para, logo depois, se abrir como uma mídia comunicacional de dimensões planetárias. Estávamos na entrada dos anos 1990, uma era a que se dava o nome de cultura mediada por computador. Mais um salto e chegamos à explosão das redes sociais na entrada do novo milênio, cujas promessas iniciais foram pouco a pouco se degradando até, de uns anos para cá, por razões que as bolhas algorítmicas parcialmente explicam, converterem-se em um lodaçal de trivialidades, exibicionismos e, pior do que isso, desinformação, paixões tristes e antagonismos.

Ao se transformar em mídia comunicacional, o computador dava sinais indisfarçáveis de que é de um artefato inteligente, que, evidentemente, carrega todas as ambivalências que são próprias da inteligência quando colocada em ação em sociedades crivadas de contradições. Basta se interessar pelo que se passa dentro e fora do computador para que essa evidência salte à vista. Aliás, uma evidência que o advento bemsucedido da inteligência artificial (IA) nas duas últimas décadas veio certificar e que a recente emergência da IA generativa (IAG), na sua capacidade linguística e dialogante, agora torna indiscutível.

Julgo esse brevíssimo panorama retrospectivo relevante para evitar o presentismo e imediatismo, que têm imperado em relação ao advento da IAG, especialmente do ChatGPT, que tanto alarido vem provocando, como se os fenômenos não carregassem a sua própria história. A IAG apresenta traços de funcionamento diferenciadores dos algoritmos da IA preditiva já exitosa no mundo empresarial, com repercussões em vários campos e atividades humanas, da medicina e educação aos sistemas bancários etc., atuando hoje, inclusive, em tudo que fazemos, graças a este pequeno mimo, o smartphone, que carregamos e que oculta o que faz conosco. Somos hoje monitorados por algoritmos os quais, sem que saibamos ou que prestemos a devida atenção, estão no controle de nossas vidas até o ponto de pressentirem nossos desejos, antes mesmo que tenhamos clareza sobre eles.

Nesse cenário, a emergência do ChatGPT está provocando tanto fervor porque, em muito pouco tempo, a IA aprendeu não só a soltar imagens, mas também a falar, conversar, em preocupantes competições com aquilo que faz do animal humano ele ser humano. Enquanto a linguagem humana vem de circuitos cerebrais que habitam um corpo metabolizado por hormônios e afligido por pulsões, uma linguagem que vem da carne, que respira, pulsa e palpita, o corpo estranho desse novo robô é feito de outras materialidades extrativistas de metais raros que abrigam invisíveis operações lógicas abstratas e ocultam o enorme dispêndio de energia de que dependem. Como é possível que um corpo e cérebro tão diametralmente distintos do humano possam ser capazes de imitar as habilidades semióticas humanas com tanta aparente perfeição?

O segredo encontra-se em uma façanha da engenharia chamada de Transformer, uma nova espécie de rede neural profunda responsável pelos feitos e fatos dos grandes modelos de linguagem de que o ChatGPT é um dos mais afamados resultados. Trata-se de algoritmos que aprendem a realizar associações estatísticas entre bilhões de palavras e frases para executar tarefas como gerar resumos, traduzir, responder perguntas, classificar textos etc. Quanto mais dados, maior a performance das redes neurais para essas tarefas até alcançar as aquisições atuais que tanto nos impressionam.

A IAG apresenta dois grandes ramos: a IA que gera imagens e a IA que gera textos. As IAG de imagens vêm despertando discussões no campo da arte, do design e da arquitetura, mas nada que possa ser comparado ao estado febril que o ChatGPT tem provocado em pouco espaço de tempo. Por que será? A hipótese é que, enquanto a geração de imagens afeta o nicho dos produtores e usuários no campo da visualidade, o ChatGPT afeta todos os seres humanos falantes e letrados, levando nisso quase todas as profissões e todas as formações educacionais em todas as áreas em que a linguagem verbal em maior ou menor medida está envolvida. Por ter alcançado o estatuto de grande mascote da IAG, é ao ChatGPT que algumas ponderações se seguirão.

Aqueles que fizeram experiências de conversação com esse novo robô devem concordar, em primeiro lugar, que é de relevância fundamental o fator humano na performance a dois que se instaura. Conversações implicam pelo menos dois participantes. Em segundo lugar, há momentos de interação em que as respostas obtidas chegam a nos inebriar pela sofisticação e pela exibição de um tipo estranho de humanidade. Aí mora o perigo, que exige moderação e prudência diante de um sistema que não cria por si, mas só imita.

As principais armadilhas que o Chat oculta de nós provêm da negligência em explorá-las por meio do exercício a que dou o nome de “arte da suspeita”. Não nos deixemos enganar. Essa mascote da IA é um grande simulador cujo mérito é apresentar enunciados sintaticamente coesos e coerentes. Contudo, sem qualquer compreensão sobre o sentido do que escreve. De fato, não tem. Lembremos, no entanto, os escritos dos pós-estruturalistas franceses, em especial Jacques Derrida, Gilles Deleuze, Jacques Lacan e, antes deles, Wittgenstein, que revelam um consenso quanto ao fato de que, já no caso dos humanos, o significado não é um dado que salta imediatamente de nossas cabeças, mas escorrega continuamente pelos circuitos dos jogos da linguagem e de seus contextos internos e externos. Além disso, o pragmaticismo de C. S. Peirce nos lembra que a linguagem vale pelos efeitos sensíveis que ela provoca no curto, médio ou longo caminho do tempo.

Que o Chat não entende o que escreve é um fato. Isso lhe valeu o qualificador de “papagaio estocástico”, qualificador, aliás, que é utilizado triunfantemente por aqueles que não foram além do conhecimento de sua superfície, transformando-se eles próprios em papagaios que nem sequer são estocásticos. Deveria ser um truísmo afirmar que, para o humano, entender o sentido do que diz e, mais do que isso, responsabilizar-se por isso, é condição ética, e mesmo moral, imprescindível cuja falta, em maior ou menor medida, prejudica, contamina e envenena a vida social. Aprendemos com Hannah Arendt que a banalidade do mal é, de fato, banal. Em razão disso, é sempre bom ter em mente que as conversações com o Chat são feitas a dois e que é substantivo o papel nelas desempenhado pelo humano propriamente dito.

A fragilidade mais contundente do Chat, que, aliás, afeta todos os programas de IA, é a falta de senso comum, ou seja, estar aprisionado em um reino estritamente feito de linguagem, diferente do humano cujo senso comum resulta de nossa existência em contextos, não apenas textuais (esses o algoritmo sabe explorar), mas também extratextuais e vivenciais que cumprem um grande papel no modo como interpretamos e damos sentido às palavras e aos contextos em que existimos. Devido à sua cegueira ao contexto externo e, mais ainda, por não estar munido de filtros éticos próprios, devido à sua incapacidade de compreender o que diz, assim como outros programas de IA ou chatbots menores, o ChatGPT pode passar para a frente discursos de ódio e gerar estereótipos racistas e sexistas.

Dificuldades éticas ocorrem especialmente quando confiamos aos algoritmos autônomos ou semiautônomos uma tarefa que tem consequências para a existência de seres humanos. O algoritmo em si não tem a liberdade de ser moral ou imoral, uma vez que é apenas uma sucessão de estados inequívocos. Entretanto, não só as pessoas que projetam os sistemas, mas também aquelas que recebem seus resultados, consciente ou inconscientemente, devem obedecer a um certo número de padrões morais. Portanto, espera-se, ou melhor, é mandatório, de um lado, que esses padrões sejam injetados nos sistemas, de outro, que os usuários sejam capazes de antecipar consequências éticas que podem advir quando, por ingenuidade não deliberada ou por desonestidade deliberada, passam à frente resultados falsos de suas consultas ao ChatGPT. Além da arte da suspeita entraria aqui também a arte do cuidado.

Há toneladas de questões envolvendo o impacto social e as questões éticas e filosóficas da IA que, incluindo as diferentes vozes dos cientistas sociais, dos artistas e das pessoas ligadas às humanidades, precisam passar pelos filtros dos regulamentos. Para isso, ponderações bem fundamentadas são necessárias.

Disponível em: <https://revistacult.uol.com.br/>. Acesso em: 20 de dez. 2023. [Texto adaptado]

Texto 2

Isolamento

Gabriela Borges

Helô D’Angelo é uma das maiores quadrinistas brasileiras da nova geração. Jornalista de formação, ganhou destaque com suas HQs políticas, principalmente durante as eleições de 2018. Atenta aos detalhes e inspirada pelo tédio, ano passado começou um registro sensível sobre a pandemia no Brasil com base no que via, escutava e imaginava sobre seus vizinhos. Daí nasceu Isolamento, seu segundo livro, que narra a vida de doze moradores de um predinho, que vivem o que muitos de nós vivemos durante a pandemia: o drama do pai e sua filha, afastados por suas escolhas políticas; o médico que precisa sair para trabalhar; a mulher presa no home office; o casal apaixonado; o cachorro que se torna a única companhia da dona.

O mais interessante na narrativa criada pela autora é a estrutura, que une na mesma página a história de todos os apartamentos. É como se estivéssemos observando de longe o que se passa na janela alheia. Quem nunca? Rafael Coutinho, grande quadrinista brasileiro, escreveu o prefácio e reconhece o talento de Helô ao criar um suprapersonagem, o prédio, “que nos faz dançar no grid que ela propõe, na unidade de página que agita nossos olhos atrás de detalhes o tempo todo, voltando aos núcleos iniciais, procurando o gato, a mudança do casal, o velho reacionário que foi tomar cerveja escondido com seu comparsa do 4º”. Helô brinca que é uma verdadeira fofoca em quadrinhos. A gente gargalha em algumas páginas e chora de emoção em outras.

Outro ponto importante são as informações extras à história, que contextualizam o que acontecia no Brasil durante a construção do livro. Uma escolha esperta da autora, que torna a obra um registro importante feito durante a própria pandemia por uma jovem artista paulistana, desses que vamos reler com as gerações futuras, para tentar explicar – e até mesmo entender – tudo o que estamos vivendo.

Isolamento foi publicada inicialmente no formato webcomic, no perfil no Instagram da autora, para então virar um livro de 208 páginas coloridas, publicado de maneira independente por meio de uma campanha no Catarse. Já experiente em financiamento coletivo, Helô é autora também da graphic novel Dora e a Gata, de 2019.

Disponível em:<https://diplomatique.org.br/>. Acesso em: 16 fev. 2024. [Texto adaptado]

Sobre o gênero textual no qual se enquadram os textos 1 e 2, é correto afirmar: