Há como deter o ChatGPT? Uma resenha da obra de Lúcia Santaella
Resumo
O lançamento do ChatGPT colocou a Inteligência Artificial na pauta dos grandes veículos de comunicação. Termos como redes neurais, grandes modelos de linguagem e processamento de linguagem natural saíram das rodas acadêmicas e se tornaram assunto corriqueiro. Mas, afinal, o que é, quais as capacidades e limites do Chat? Lucia Santaella, professora e pesquisadora no campo da semiótica e da comunicação na Pontifícia Universidade Católica de São Paulo (PUC-SP), propõe-se a responder essas e muitas outras questões que emergiram com o lançamento dessa poderosa ferramenta que conversa e age como se fosse humano, mas ainda é uma máquina desprovida de julgamentos éticos e morais.
Abstract
Há como deter a invasão do ChatGPT? The launch of ChatGPT has brought Artificial Intelligence into the spotlight of major media channels. Concepts like neural networks, large language models, and natural language processing, once confined to academic realms, previously exclusive to scholarly discussions, have now become widely recognized. This raises questions like what exactly is ChatGPT, and what are its capabilities and limitations? Lucia Santaella, professor and researcher in the field of semiotics and communication at PUC-SP, proposes in this book to address these and other queries that have arisen following the launch of this potent tool. ChatGPT converses and behaves in a manner reminiscent of human interaction, yet it remains a machine, inherently lacking in ethical and moral judgment.
Keywords ChatGPT; Artificial Intelligence; neural networks
As aplicações de Inteligência Artificial (IA) já são onipresentes no mundo conectado: tradutores, buscadores, aplicativos de saúde, plataformas de redes sociais, entre tantos outros exemplos, foram desenvolvidos e aprimorados, especialmente nos últimos anos, graças a sistemas cada vez mais robustos que utilizam aprendizagem de máquina, deep learning e redes neurais.
De toda forma, nenhuma aplicação parece ter gerado tanto hype como o ChatGPT. Por isso a importância da obra Há como deter a invasão do ChatGPT?, de Lucia Santaella, lançada em agosto de 2023. Santaella propõe-se a incitar a discussão fundamentada em torno do assunto estabelecendo uma “moldura de referências” que colabora para o leitor interessado pelo tema compreender com o que estamos lidando, quando se trata de IA, quais suas implicações sociais e consequências para o humano a partir de questões de extrema importância para a sociedade, como a regulação de IA e a existência de sistemas de IA transparentes, confiáveis e seguros, eticamente responsáveis, democráticos e inclusivos, conforme sugerido por diversos documentos de orientação, como os da UNESCO (2021; 2022).
Lucia Santaella é professora e pesquisadora no campo da semiótica e da comunicação e, ao longo de sua carreira, tem contribuído de maneira significativa para o entendimento dos processos comunicativos e dos sistemas de signos por meio de abordagens interdisciplinares. A habilidade da professora em integrar teoria e prática a torna uma figura central no cenário acadêmico. Tal trajetória, não por acaso, reverbera nas análises apresentadas em Há como deter a invasão do ChatGPT?, que questionam não apenas as nuances da invasão tecnológica, mas também as implicações sociais e semióticas inerentes a essa evolução tecnológica.
É possível que a experiência como professora tenha dado o estofo para a tessitura da narrativa envolvente de Há como deter a invasão do ChatGPT?, a qual explora não apenas os aspectos técnicos, mas também os dilemas morais que emergem quando a linha entre máquinas e humanos se torna cada vez mais tênue e aparentemente sem retorno, por meio de linguagem absolutamente acessível ao público leigo e com referências muito atualizadas, colaborando com pesquisadores da área.
A contribuição de Santaella já se estabelece no primeiro dos seis capítulos nos quais o livro se divide. Isso porque, no capítulo “Conhecer e compreender o funcionamento do ChatGPT”, podemos ler diversas referências técnicas que permitem ao leitor conhecer as bases de funcionamento do cérebro do ChatGPT. Nessa abordagem inicial, Santaella apresenta conceitos e termos fundamentais para os estudos de IA, como Redes Neurais Artificiais (RNA), Redes Adversariais Generativas (GAN), deep learning, Transformers, Large Language Models e NLP (Processamento de Linguagem Natural), entre outros.
No capítulo 2, a autora alerta para os perigos e ambiguidades da aplicação, denominados por ela de “demônios ocultos da linguagem”. O encantamento e as armadilhas do ChatGPT se dão, segundo Santaella, pela sua capacidade conversacional, já que, ao mesmo tempo que ele é capaz de realizar associações estatísticas entre bilhões de palavras e frases com coerência sintática, o sistema não é dotado de ética. Suas respostas parecem capazes de entendimento, em discursos semelhantes aos de humanos, mas o Chat pode cometer erros fornecendo informações falsas ou mesmo erros sem qualquer fundamento de realidade — as alucinações.
Embora possa usar de forma convincente palavras que se relacionam entre si, como “rei” e “rainha” ou “paciente” e “câncer”, ela não pode apreciar os sentimentos humanos associados a essas coisas porque a experiência dela se limita à ocorrência estatística de palavras que os humanos usam para representá-las. É importante entender isso porque, em algumas áreas de aplicação, pode ser perigoso acreditar que a IA realmente entende algo quando, na verdade, ela é apenas muito boa em se comportar como se entendesse
(Boucher, 2020, p. 11, tradução nossa).
Como consequência, sem as devidas precauções, os usuários podem transformar esse sistema numa máquina de gerar fake news. Portanto, conforme advertência da professora, é preciso cautela: impacto social, questões éticas e filosóficas devem ser levados em consideração no uso da ferramenta. Nesse sentido, a UNESCO também reforça que, embora existam preocupações sobre a possibilidade de a Inteligência Artificial superar a capacidade de ação humana, as questões sociais e éticas relacionadas à IA são mais iminentes, destacando-se o uso indevido de dados pessoais e o risco de que a IA possa exacerbar, ao invés de mitigar, as desigualdades já existentes (UNESCO, 2021).
Abalos na autoria, criatividade e autonomia causados pelas IAs Generativas são temas do terceiro capítulo, que apresenta sistemas de imagens (como Dall-e, Midjourney, Stable-Difusion e Imagen, do Google) para explicar que eles funcionam a partir de modelos de Redes Neurais, ou seja, utilizam o aprendizado multimodal para conectar a semântica entre textos e imagens num processo que traz velocidade para criar e explorar.
No tratamento dado ao tema, é possível perceber o levantamento de duas questões paradoxais. A primeira é que essas tecnologias já podem ser aplicadas em atividades em diferentes áreas, como cinema, moda, arquitetura, publicidade e, para admiração de alguns e espanto de outros, na criação, com altíssimo potencial, de “obras de arte”, como foi o caso de um projeto da Deutsche Telekom que utilizou a IA para ampliar uma sinfonia de Beethoven, obtendo resultado impressionante, na avaliação de Christine Siegert, especialista nas obras do compositor (Goemann, 2022), ou mesmo nas artes plásticas, em que o “Retrato de Edmond de Belamy”, criado inteiramente por algoritmos de IA, foi comprado, em 2018, por 433 mil dólares (Kaufman, 2019).
O leilão da Christie’s estimulou novas experimentações, inseridas num movimento artístico batizado pelo Obvious de “GAN-ism”, e muita polêmica. Vários artistas, utilizadores da inteligência artificial, contestam a originalidade não apenas dessa obra, mas de todo o trabalho do Obvious, referindo-se ao coletivo mais como profissionais de marketing do que propriamente artistas
(Kaufman, 2019).
Questões relacionadas à originalidade, autoria e propriedade intelectual de imagens, assim como às referências textuais surgem como dilemas éticos, geradores de importantes discussões sinalizadas na obra resenhada.
Ampliando essa temática, o capítulo 4 aborda uma das primeiras áreas que sofreu o impacto do ChatGPT: a produção de conhecimento. Como incorporar os textos do Chat a um trabalho acadêmico? Santaella afirma que sistemas de IA já apoiam atividades científicas, executando tarefas que vão desde digitalizar bancos de dados de artigos a realizar correções de texto e melhorar a escrita. Dessa forma, a autora pontua que esses sistemas podem e devem ser aliados do conhecimento, desde que haja regulamentação adequada, que perpasse as questões éticas e de direitos autorais. De acordo com a Unesco (2022), as tecnologias de IA apresentam grandes oportunidades para o conhecimento e a prática científica, desde que pesquisadores estejam cientes dos benefícios, limites e riscos de seu uso.
“Dilemas e desafios da educação” é o título do capítulo 5, que, como já indiciado, levanta questões pertinentes à incorporação do ChatGPT e da Inteligência Artificial aos processos de ensino-aprendizagem. Sendo o Chat capaz de efetuar as mais diversas tarefas escolares facilmente, quais os efeitos potenciais no conhecimento e nas habilidades humanas? Como ficam as tradicionais modalidades de avaliação?
No capítulo, há a descrição cronológica do impacto do Chat nas instituições de ensino. Assim, lemos que, num primeiro momento, a reação de universidades, como a de Michigan, foi a de proibir e coibir a utilização do modelo. Entre as justificativas havia a preocupação com o “fim do pensamento crítico” e a capacidade de elaborar raciocínios mais complexos, além da questão do plágio. Passado o pânico inicial, Santaella pontua que os sistemas de inteligência artificial já estão presentes na vida dos estudantes de diversas formas, e que estes vão trabalhar em um ambiente de produção ubíqua de conteúdos. Assim, é preciso, de acordo com a autora, repensar as práticas pedagógicas tradicionais e incorporar o ChatGPT (e outros sistemas de IA) ao cotidiano escolar e acadêmico.
O livro traz ainda uma sistematização de sugestões de incorporação de IA à educação, apresentando oportunidades de uso do ChatGPT na sala de aula, no cotidiano escolar e nas atividades burocráticas do ensino. A autora questiona como o Brasil e outros países, em que a realidade da educação é de professores sobrecarregados, escolas precarizadas, sem recursos elementares de conectividade, podem reagir à chegada do ChatGPT. Para essas questões não há respostas na obra, mas o leitor pode inferir que muito há de se fazer em relação à criação de políticas públicas para garantir a equidade e a justiça social na educação brasileira.
Contudo, se Santaella não apresenta respostas para questões surgidas no cenário educacional, ela pontua que nenhuma das questões citadas justifica a “inércia pedagógica” e pede uma “reviravolta mais ampla no papel do professor já que a informação, antes exclusiva das salas de aula, hoje está em todos os lugares: primeiro online, depois em chatbots”. Este novo contexto não seria, para a autora, o fim da educação, mas um recomeço.
De toda forma, espera-se que a utilização da IA na educação seja orientada para as necessidades pedagógicas dos estudantes e leve em conta, principalmente, o objetivo da educação que norteia as políticas públicas do setor no país, ou seja, formar para “[...] o pleno desenvolvimento da pessoa, seu preparo para o exercício da cidadania e sua qualificação para o trabalho.” (Brasil, art. 205).
No capítulo final, com o título provocativo de “Os dados estão lançados”, é retomada a tese de que os sistemas de IAGs são capazes de exibir algo muito similar ao modo como operam o pensamento, a compreensão e a criatividade humana. Ao “competir com a habilidade humana de conversar, ler, escrever e responder, o ChatGPT fere no seu âmago o orgulho pessoal implícito (Santaella, 2023, posição 1224)” que surge quando pensamos: Eu escrevo, Eu crio, Eu falo. Atitude semelhantemente desafiadora à dos algoritmos utilizados pelo coletivo Obvious para criar obras, pois “pode parecer inusitada, até meio insólita, a ‘automação’ da arte, associada à abstração e à subjetividade [...] soa[ndo] como antítese de computador, lógico e objetivo” (Kaufman, 2019). No entanto, tal perspectiva se torna explicável se, como bem adverte Santaella, compreendermos a possibilidade de outras capacidades e inteligências diferentes da humana.
Nessa perspectiva é que a autora refuta aqueles que duvidam das capacidades dos sistemas de Inteligência Artificial, afirmando que é preciso abandonar a noção do antropoceno e pontua que discutir a inteligência da IA é uma maneira retroativa de observar os impactos resultantes das interações humanas com esses sistemas. Da mesma forma que depreciar as formas de inteligências não humanas é minimizar os efeitos que os sistemas algorítmicos podem provocar.
Embora distintas, eis a questão: levam os humanos a fazer coisas que não fariam sem elas, coisas das mais diversas ordens: desde auxiliar um diagnóstico médico difícil até atolar as redes de fake news e deep fakes.
(Santaella, 2023, posição 1870).
Como desfecho da obra, são levantadas algumas bandeiras vermelhas para o futuro, tais como: o controle cada vez maior, a partir dos dados, de nossas mentes, corpos e experiências, pelas empresas detentoras de IA; a falta de regulação definida, de estruturas de governança, valores éticos e morais que deveriam moldar o desenvolvimento das IAs, alertando sobre a necessidade de os setores públicos, privados e da sociedade civil se atentarem para os efeitos nocivos da IA, como o consumo massivo de notícias falsas e a falta de criticidade dos usuários das redes sociais que a um só passo geram uma explosão de informação e de incertezas (Bucci, 2023).
E tal como Eugênio Bucci, Lúcia Santaella chama a atenção do leitor para a necessidade de regulação do mundo digital, no qual big techs “[...] capitalizaram os riscos [e] precificaram a ignorância fabricada” (Bucci, 2023, p. 133).
Ainda assim, ao final da leitura, é possível concluir que a IA é uma realidade positiva para parte da população, com muitas oportunidades, especialmente para a educação. Entretanto, ainda que a autora pontue a necessidade de educadores, escolas e universidades saírem da “inércia pedagógica”, parece importante considerar que a utilização da IA aplicada à realidade educacional do Brasil requer, sem dúvida, a ótima formação inicial e continuada de professores, além de investimento pesado em infraestrutura capaz de permitir conectividade e acesso a todos os estudantes do país.
Há como deter a invasão do ChatGPT? é, portanto, leitura recomendadíssima para todos que se interessam pela IA e, especificamente, sobre os limites e possibilidades atuais do ChatGPT.
Referencias
-
BOUCHER, Phillip. Artificial intelligence: How does it work, why does it matter, and what can we do about it?. Bruxelas, European Union, 2020. Disponível em: <https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2020)641547>. Acesso em: 16 abr. 2024.
» https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2020)641547 - BUCCI, Eugênio. Incerteza: um ensaio - como pensamos a ideia que nos desorienta (e orienta o mundo digital). São Paulo: Autêntica, 2023.
- GOEMANN JR., Rodolfo Godo. Inteligência Artificial e Suas Ambivalências: uma Abordagem Social dos Benefícios, Riscos e Desafios da IA. São Paulo: Alta Books, 2022. [Livro eletrônico]
-
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília, DF: Senado Federal, Centro Gráfico, 1988. Disponível em: <https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm>. Acesso em: 16 abr. 2024.
» https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm -
KAUFMAN, Dora. Dá pra fazer arte com inteligência artificial? Época Negócios 23 ago. 2019. Disponível em <https://epocanegocios.globo.com/colunas/IAgora/noticia/2019/08/da-pra-fazer-arte-com-inteligencia-artificial.html>. Acesso em 07 mar. 2024.
» https://epocanegocios.globo.com/colunas/IAgora/noticia/2019/08/da-pra-fazer-arte-com-inteligencia-artificial.html - SANTAELLA, Lucia. Há como deter a invasão do ChatGPT? São Paulo: Estação das Letras e Cores, 2023. [Livro eletrônico]
-
UNESCO. AI and education: guidance for policy-makers. [S. l.]: Unesco, 2021. 45 p. DOI: https://doi.org/10.54675/PCSP7350 Disponível em: <https://unesdoc.unesco.org/ark:/48223/pf0000376709>. Acesso em: 5 mar. 2024.
» https://doi.org/10.54675/PCSP7350 -
UNESCO, 2022. NenhumRecommendation on the Ethics of Artificial Intelligence.Nenhum Unesco, 2022, 43 p. Disponível em: <https://unesdoc.unesco.org/ark:/48223/pf0000381137 Acesso em 16 abr. 2024.
» https://unesdoc.unesco.org/ark:/48223/pf0000381137
Fechas de Publicación
-
Publicación en esta colección
16 Set 2024 -
Fecha del número
2024
Histórico
-
Recibido
24 Mar 2024 -
Acepto
05 Abr 2024
