MEMÓRIAS PÓSTUMAS DA
POR MATEUS AMORIM, MELISSA CRUZ E MICHELLE MAGANHA
A imagem de um jovem sorrindo e abraçando um ente querido que já faleceu invadiu as telas do TikTok e das redes sociais nos últimos meses. Utilizando ferramentas avançadas de inteligência artificial generativa, a trend permite que usuários juntem fotografias antigas para simular encontros, abraços e movimentos que nunca aconteceram no mundo físico. Essa busca por reanimar a saudade ilustra de forma clara uma transformação profunda na cultura contemporânea: a transição de meios de recordação estáticos para registros dinâmicos e manipuláveis.
No entanto, mais do que uma simples ferramenta de entretenimento ou conforto emocional, a popularização dessas montagens digitais acende um debate crucial sobre as lacunas da mente e o modo como as novas tecnologias interagem com a reconstituição do passado.
Compilado de vídeos da trend do TikTok em que usuários recriam fotos ao lado de entes queridos | Reprodução: TikTok
Historicamente, a busca humana por registrar a própria trajetória sempre dependeu de suportes externos para tentar conter a ação do tempo. Da tradição oral às pinturas rupestres, passando pelos diários pessoais, o surgimento da fotografia e do cinema, a humanidade criou artifícios para fixar instantes. Apesar de valiosos, esses registros do passado possuíam uma característica fundamental: eram documentos estáticos.
Um álbum de família guardado na gaveta podia amarelar ou rasgar com o passar das décadas, mas a imagem nele contida permanecia inalterada.
Como observou Walter Benjamin ao analisar o surgimento da fotografia, o registro mecânico congelava o instante no tempo, cabendo exclusivamente ao cérebro o trabalho biológico de interpretar aquela cena. Com o avanço dos smartphones, dos algoritmos e das ferramentas de IA generativa, a relação entre a mente e o registro visual sofreu uma ruptura sem precedentes. Os dispositivos digitais deixaram de atuar como meros depósitos passivos de arquivos e assumiram um papel ativo na mediação das recordações.
Os sistemas digitais não apenas armazenam fotografias, mas decidem quais momentos reexibir, aplicam filtros automáticos, reanimam feições faciais e recriam cenários com hiper-realismo. O arquivo do passado deixou de ser um registro intocado para se tornar um ambiente continuamente editável.
Essa alteração no formato das mídias atinge o núcleo da cognição e da percepção da realidade. Quando a inteligência artificial recria um abraço artificial, ela entrega ao cérebro um estímulo visual completo e dinâmico.
Em um momento de vulnerabilidade emocional, como o luto, a visualização desse conteúdo proporciona alívio imediato e alento. Contudo, o grande risco surge quando esse aconchego estético passa a distorcer a precisão dos fatos na mente do usuário.
A facilidade com que esses estímulos sintéticos ludibriam a percepção já atrai a atenção de pesquisadores do meio acadêmico. Como o cérebro humano opera por meio de constantes reconstruções para preencher esquecimentos naturais, ele tende a fundir os vestígios da vivência autêntica com as novas informações visuais fornecidas pela tela, apagando os limites entre o que foi vivido e o que foi simulação algorítmica.
Nesse novo cenário, a consequência mais grave trazida pela inteligência artificial não é a perda da informação, mas a falsa convicção da certeza. Quando uma foto antiga é alterada para mudar traços, iluminação ou inventar interações, a mente passa a adotar essa nova versão como o documento definitivo da sua própria história.
Uma revisão de literatura sobre o impacto dos recursos sintéticos na cognição, publicada na International Journal of Research and Innovation in Social Science (IJRISS), reforça que o consumo acrítico dessas tecnologias compromete a autonomia do pensamento.
As experiências reais correm o risco de ser gradualmente substituídas por representações geradas por software, deixando a memória individual subordinada às atualizações e aos critérios dos algoritmos
Vídeo Explicativo sobre a relação da tecnologia e a memória humana. | Reprodução: YouTube
O Arquivo Humano
A memória constrói a essência do que é ser humano. Permite que as pessoas realizem as atividades do cotidiano, como trabalhar, estudar ou andar de bicicleta, até mesmo desenvolver uma conversa com alguém do seu ciclo social. Possibilita a resolução de problemas por meio da recordação do passado e também viabiliza a construção da identidade do indivíduo pelo processo de acesso a eventos que já ocorreram. Sendo um recurso fundamental para a humanidade devido sua presença e trabalho contínuo.
Se de acordo com o filósofo Platão a memória funciona como uma tábua de cera, onde as lembranças ficam gravadas como aconteceram e, naturalmente, algumas partes podem ser esquecidas, a ciência contemporânea mostra que o mecanismo é ainda mais maleável. Estudos liderados pela psicóloga cognitiva Dra. Elizabeth Loftus revelam que essa 'cera mental' nunca endurece de forma definitiva.
Segundo as pesquisas da especialista, o esquecimento não deixa apenas lacunas vazias no cérebro, o próprio organismo tende a remodelar o registro original, preenchendo os espaços apagados pelo tempo com novas informações, relatos de terceiros ou registros visuais. Para a psicologia moderna, mais do que um arquivo estático do passado, a memória é uma estrutura em constante reconstrução.
Um dos primeiros a colocar isso no papel foi o psicólogo Hermann Ebbinghaus, ainda no século XIX. Ele descobriu que o esquecimento não acontece aos poucos, na verdade, o cérebro descarta a maior parte do que aprendeu logo nas primeiras horas. Se não houver nenhum tipo de revisão ou reforço rápido, a informação simplesmente vaza da mente em uma velocidade impressionante.
Segundo o artigo “Memória” de Carlos Alberto Mourão Júnior e Nicole Costa Faria, da Universidade Federal de Juiz de Fora, a memória não é definida apenas como a capacidade de reter informações e armazená-las.
O tamanho dessa complexidade biológica fica claro em uma reportagem da BBC publicada pelo portal G1, assinada pela jornalista Margarita Rodríguez. A matéria mostra que a ciência passou por uma verdadeira reviravolta ao descobrir que a memória não é um bloco único e nem fica fixa em apenas um lugar do cérebro, mas funciona como uma rede de múltiplos sistemas espalhados.
A reportagem traz exemplos impressionantes de estudos históricos, como os da neurocientista Brenda Milner, que provaram que o cérebro tem caminhos diferentes para memórias diferentes. Um paciente, por exemplo, podia esquecer o que tinha acabado de almoçar, mas seu corpo ainda lembrava perfeitamente de uma habilidade manual nova. Toda essa evolução científica e o impacto do tempo nas novas descobertas sobre a mente são detalhados por especialistas da área. Essa característica de não estar fixa em um único lugar é detalhada na própria matéria do G1 como um dos pilares dessa rede complexa.
De acordo com a publicação e com o especialista entrevistado, o cérebro não possui uma 'gaveta central' para guardar o passado, mas sim áreas descentralizadas que se comunicam a todo instante. A reportagem e o pesquisador apontam que, ao resgatar uma lembrança simples, o organismo ativa múltiplos pontos do sistema cerebral ao mesmo tempo um setor reconstrói a imagem, outro traz à tona a emoção e um terceiro recupera os sons daquele momento.
No fim, o que os dados e a entrevista revelam é que a memória é um quebra-cabeça biológico espalhado por todo o cérebro, que se monta e se transforma à medida que o tempo passa.
A ilustração interativo revela o interior do cérebro humano e destaca as três regiões fundamentais para a memória. Clique nos botões para explorar as funções do Córtex Pré-Frontal, Hipocampo e da Amígdala | Reprodução: Melissa Cruz
Interpretando-a como uma ferramenta essencial para a permanência da existência da sociedade, devido seu papel para o entendimento e aprendizado de comportamentos vivenciados ou ensinados, possibilitando a reprodução.
Além de ser primordial para a interação e convivência social pelo compartilhamento de culturas e de tradições, e o reconhecimento do pertencimento a determinados ciclos, como família e amigos. Sendo também muito significativo para o entendimento da história que constrói a sociedade e o indivíduo. Passando a ser compreendida como ferramenta necessária para a presença da vida humana na terra.
A presença de tecnologias como a internet e as redes sociais altera comprovadamente a memória humana. Pesquisas pioneiras da Universidade de Columbia, como os estudos sobre o 'Efeito Google', apontam que essas criações artificiais interferem diretamente no processo de acesso às recordações, fazendo com que o cérebro priorize lembrar como achar a informação na rede em vez de guardá-la internamente.
Atualmente, uma das ferramentas que mais expressa ruídos nesse mecanismo é a Inteligência Artificial. Através de conteúdos audiovisuais hiper-realistas, a IA gera o que a psicologia cognitiva classifica como um ambiente propício para falsas memórias. Ao consumir vídeos e imagens manipuladas que se assemelham perfeitamente à realidade, o cérebro dos usuários processa esses estímulos como fatos ocorridos, reescrevendo o passado com lembranças de eventos que nunca existiram.
As memórias passam a atuar com interferências da IA na atualidade, devido sua grande presença no cotidiano. As áreas que expressam grande influência das ferramentas digitais são a memória operacional e a memória afetiva, responsáveis pelo aprendizado e a construção da identidade do indivíduo, respectivamente. Ultrapassando o limite de apenas ajudante das tarefas do cotidiano, a IA passa a exercer uma função que influencia diretamente nas relações humanas.
Sobrecarga de Dados
Nós últimos anos, a preocupação acerca da relação entre o uso de tecnologias e o declínio das funções cerebrais vem crescendo na sociedade. Em 2024 a palavra “brain rot”, que pode ser traduzida como apodrecimento cerebral, foi eleita como palavra do ano pelo Dicionário Oxford.
Com o avanço das novas tecnologias, se instaurou nos pesquisadores uma preocupação maior sobre seu impacto no cérebro. É diante desse cenário que um estudo realizado pelo Massachusetts Institute of Technology (MIT) buscou compreender o impacto da inteligência artificial (IA) generativa nos processos cognitivos, e os resultados acendem um alerta sobre o seu uso.
Considerado o pai da psicologia cognitiva, Ulric Neisser entende os processos cognitivos como tudo aquilo que a mente humana faz com as informações que recebe do mundo. E é dentro desses processos que se encontra a habilidade mental de armazenar e recuperar informações, também conhecida como memória.
Sua importância se estende a diversas áreas, sendo fundamental para a sobrevivência humana. E como uma das principais funções cognitivas afetadas, a memória vem ganhando um destaque maior nas discussões acerca dos impactos tecnológicos. Termos como “amnésia digital” vem se destacando na mídia.
Infográfico elaborado com auxílio de inteligência artificial, baseado no estudo do MIT Media Lab| Produção: ChatGPT
O estudo intitulado “Seu cérebro no ChatGPT: Acúmulo de dívida cognitiva ao usar um assistente de IA para redação de ensaios” realizado pelo MIT, obteve como um dos resultados, justamente, uma perda de memória por parte dos participantes que utilizaram o ChatGPT para auxiliar na escrita de textos.
Os indivíduos apresentaram dificuldades em realizar citações sobre o conteúdo produzido ou se lembrar das referências utilizadas, além de relatarem uma diminuição na sensação de autoria das produções. Junto ao impacto na recordação, também se observou um nível de menor atividade cerebral naqueles que utilizaram a IA na escrita.
O destaque nos resultados foi a percepção que o uso contínuo pode gerar um acúmulo dos efeitos anteriores, o que os pesquisadores intitularam de “dívida cognitiva”. Aspectos fundamentais na formação e qualidade da memória.
Os efeitos da IA observados em relação ao cérebro, impactam particularmente, no que Alan Baddeley e Graham Hitch, teóricos da psicologia, definiram como memória operacional, ou de trabalho, atuante no curto prazo, gerenciando as informações necessárias para a execução de tarefas imediatas e complexas. E também, da memória explícita, ou declarativa, que possui relação direta com o longo prazo, permitindo acessar registros de forma consciente e traduzi-los na fala. Ao não se recordarem do que eles próprios haviam escrito em seus textos os os indivíduos apresentaram dificuldades nessas áreas da memória .
Para chegar nos resultados obtidos, os pesquisadores reuniram 54 participantes e os dividiram em três grupos distintos, os submetendo a escrita de textos acompanhada pelo monitoramento das atividades cerebrais. O primeiro grupo escrevia utilizando o ChatGPT como auxiliar, o segundo utilizando o google e o terceiro apenas a sua memória.
Os resultados mostram que o grupo que não utilizou nenhuma tecnologia obteve desempenho maior em recordar do material produzido, além de um maior engajamento das atividades do cérebro, já o que trabalhou junto à IA ficou com desempenho menor.
Ao final, em uma nova dinâmica, ao grupo da IA, foi pedido que escrevessem utilizando apenas a memória, e se constatou que houve um desempenho menor em comparação ao grupo de que utilizou a memória desde o começo, percebendo que os efeitos do usa da IA geraram um acúmulo no dificuldade da realização das atividades, essa “dívida cognitiva”, que é cobrada posteriormente.
Apesar de confirmarem uma preocupação crescente na sociedade, os pesquisadores ressaltam que os resultados são preliminares, e comentam que, por se tratar de um fenômeno recente, é necessário a criação de outros estudos para afirmar mais precisamente como se dará esse impacto no cérebro que é melhor visualizado ao longo dos anos.
Outra preocupação relacionada ao estudo, destacada pelos pesquisadores Vitomir Kovanovic e Rebecca Marrone, em um artigo publicado no portal The Conversation, vem do fato de surgirem interpretações erradas sobre o estudo do MIT. Não foi confirmado que o uso do ChatGPT tem a capacidade de “apodrecer “ o cérebro, como se utilizá-lo trouxesse danos irreversíveis, mas sim que esse processo é mais complexo e se desenvolve a longo prazo.
A questão central é compreender a maneira como o cérebro funciona e retém as informações. A transferência de processos que estimulam o raciocínio e a memória para a IA pode ocasionar, no que os autores chamam de preguiça metacognitiva, terceirizando o pensamento crítico para tecnologias e criando um desinteresse por atividades que requerem um nível maior de raciocínio.
Diversos levantamentos, como o realizado pela Universidade da Flórida junto a University College London , mostram que o hábito da leitura cai cerca 3% a cada ano, e entre os motivos se encontra o avanço de tecnologias como a IA.
Todos esses impactos no cérebro ocorrem devido uma habilidade conhecida como neuroplasticidade. Por meio dela ela o órgão é capaz de se reconfigurar para adaptar-se às necessidades com base nos estímulos oferecidos. Estímulos inferiores e que terceirizam o esforço mental, são capazes de afetar os processos cognitivos.
“Se a gente pega a premissa de que o cérebro é como um músculo, ele precisa ser treinado e exercitado para que ele se desenvolva. E como todo músculo, quando isso não acontece, ele atrofia”. Explica Dênia Santos, neuropsicóloga que trabalha com estimulação cognitiva e avaliação psicológica.
Em relação à memória, especificamente, esse processo ocorre da mesma maneira: “Quanto mais a gente ativa a rede de sinapses [...] ela vai ficando mais forte e mais marcada. É como se fosse trilhas na mata, por exemplo [...] Se a pessoa deixa de andar, tudo fecha de novo. Para você atravessar aquela mata vai ser mais difícil, porque você não vai achar a trilha para onde ir”. Exemplifica a neuropsicóloga.
No cenário do uso da IA, em relação aos seus efeitos provocados no cérebro, o número de usuários preocupa. Relatório divulgado pela OpenAI, empresa responsável pelo ChatGPT, no ano passado, apontou o Brasil como o terceiro país que mais utiliza a tecnologia, com cerca de 140 milhões de mensagens enviadas por dia para o chatbot, como apresentado em matéria da CNN, pela jornalista Giovana Christ. Em relação ao uso da ferramenta, cerca de 40% das interações dos usuários no mundo é para a execução de tarefas, como a própria redação de textos, detalha outro relatório da empresa.
Habilidades como a leitura e escrita são cruciais no processo de formação da memória, tarefas que vem cada vez mais sendo terceirizadas para a IA. Sobre isso, Dênia Santos destaca: “Quando eu já pego o texto já pronto, eu não fiz o esforço mental de buscar nas minhas referências, vou deixando mesmo de acessar até memórias mais antigas. E aí corre o risco, sim, de ter mais dificuldade de evocar até conceitos mais simples, que temos em mente.”
Os prejuízos que esses efeitos vão deixar aos campos cognitivos e sociais ainda não podem ser previstos com exatidão, mas as ideias propostas pelos estudiosos não refletem um futuro tão animador. Na visão de Dênia Santos, pela substituição de um estilo de vida que continham tarefas estimulantes, as pessoas podem passar a buscar maneiras de treinar o cérebro semelhante a como ocorre nas acadêmias com o treinamento físico.
“Eu vejo que logo aí a abertura de várias escolas do cérebro, escolas cognitivas, que a gente já tem algumas. E ainda, as clínicas, infelizmente, vão ficar mais cheias nesse sentido.” Dentro disso, ainda destaca sobre o aumento das medicações que vem ocorrendo nas últimas, como foi o caso da ritalina, utilizada para deixar a pessoa mais produtiva.
Kovanovic e Marrone no artigo para o The conversation, propõe uma visão diferente em relação ao uso da IA. Para os pesquisadores, a implementação da tecnologia pode se situar semelhante à calculadora. Educadores precisam aumentar o nível de exigência das tarefas por parte dos alunos, de forma que o uso da IA seja integrado para auxiliar na execução dessas atividades. No entanto, os autores não comentam de maneira aprofundada como contornar a possível preguiça cognitiva que a ferramenta pode gerar.
Independente do panorama que se desenvolver no futuro, o cenário atual demonstra que as medidas devem ser tomadas no presente. As ferramentas de IA estão disponíveis na sociedade e o seu uso não pode ser ignorado. Mas a atenção para um uso moderado se mostra essencial em um mundo cada vez mais mediado por tecnologias.
O uso da inteligência artificial, principalmente na execução de tarefas para a pessoa, inicialmente, pode se mostrar como uma ferramenta de praticidade e economia de tempo. Mas os impactos do seu uso na memória e nas funções cognitivas demandam atenção. A memória é uma ferramenta fundamental na vida humana e na sua sobrevivência, transferir as tarefas que demandam esforço ao artificial, pode interferir na inteligência, e acarretar em um problema no que essencialmente caracteriza o ser humano.
O Algoritmo do Afeto
De acordo com o psicólogo Théodule-Armand Ribot em 1826, em seu livro La Psychologie des Sentiments, memória afetiva é definida como consequência da revivescência de um sentimento do passado, que promove uma nova concepção ou percepção de um evento. Sendo uma reprodução do estado emocional do indivíduo com todas suas características.
Recorrentemente associada ao sentimento de nostalgia e identidade, por promover o contato com o passado por meio dos sentimentos. Os sentidos sensoriais são a base para essa memória, já que a maioria das recordações dificilmente são acessadas por pensamentos totalmente lógicos. O contato com momentos que já aconteceram possibilita a construção do sentimento de pertencimento por meio da lembrança.
Atualmente, as redes sociais desempenham um grande papel na sociedade, o do contato com uma diversidade de materiais por meio de trends virtuais. Segundo o pesquisador Lev Manovich, as trends são definidas como micro-mídia, onde o conteúdo é dividido em partes menores de significados, e o consumo é na grande maioria estético. Caracterizadas pela estética, ritmo acelerado e repetições de padrões. Em um mundo cercado pelos avanços tecnológicos no cotidiano, implicações ocorrem na interação entre memória afetiva e revivência do passado.
Nos últimos anos, as trends contam com a participação especial da Inteligência Artificial (IA) para a sua construção. Em 2024, uma tendência ganhou bastante visibilidade nos meios digitais, conhecida por promover o contato com algum ídolo através de uma produção realizada pela IA. Entretanto, um grande número de pessoas avistou uma oportunidade de criação de uma imagem ou vídeo com algum ente querido falecido. Assim, por meio de uma imagem real é criado uma artificial, em que as pessoas aparecem se abraçando ou uma do lado da outra.
Uma das participantes da trend, Gabriela Hermes, afirma que entrou na tendência como uma forma de promover um contato com seu falecido avô: “A motivação foi de ser alguém próximo que de fato eu quisesse esse abraço ”. Descrevendo a imagem como uma ferramenta de reviver o passado e estar ao lado daqueles que já partiram. Afirmando que a produção imagética sensibilizou não apenas ela, mas familiares também: “Nossa, essa foto é muito boa, que coisa legal. [...] isso poderia ser real, né?” relata a reação de seu pai ao ver a imagem.
Passe o mouse encima para ver a montagem comparativa da imagem final gerada por Inteligência Artificial (acima) e as fotografias originais (referências), ilustrando a lógica do algoritmo. | Reprodução: Arquivo Pessoal
A participante afirma que apesar do sentimento acolhedor promovido pela trend, reconhece que é apenas uma produção digital: “Ele não está vivo, ele não está aqui, mas ele é real dentro de mim”. Completa dizendo que a experiência resultou em um sentimento positivo porque seu processo de luto estava muito bem resolvido. Porém, e quando a trend é utilizada por aqueles que ainda sofrem pela dor da perda?
A psicóloga Jessiane Santos afirma que a memória é como se fosse um livro editado, e toda vez que o abre novas sensações e sentimentos são experienciados. Assim, ao pensar em uma pessoa, por meio da memória afetiva, é lembrado do cheiro, do toque e da presença dela. Quando se é transferido esse processo para uma Inteligência Artificial duas coisas podem acontecer, a primeira é parar de sentir essas sensações devido ao não exercício da plasticidade do cérebro. E a segunda é o usuário acreditar nas produções artificiais, se prendendo nas imagens e vídeos, e parando de acessar as memórias reais.
Apontando que em momentos de sofrimento a procurar por criações virtuais promove uma maior probabilidade de acreditar nas imagens ou vídeos artificiais, “A vulnerabilidade, ela traz essa lacuna. Quanto mais vulnerável eu estou, mais eu vou acreditar naquilo que me traga conforto ”, afirma Jessiane. E acrescenta que a procura por memórias construídas artificialmente é uma preocupação devido aos impactos que ocasionam para a identificação do indivíduo da realidade vivida.Uma vez que ele passa a preferir reviver suas memórias por meio de ferramentas que o traga um maior conforto, se afastando da autenticidade de sua história.
A preocupação sobre as possíveis interferências que a IA detém sobre a memória afetiva se mostra cada vez mais intensa pelos pesquisadores, devido ao aumento da procura dos indivíduos por recursos digitais que tentam a reconstruir.
Um estudo realizado pelas pesquisadoras Cássia Regina Roman Rosa e Eloisa Pavesi, da Universidade Federal de Santa Catarina, aponta uma possível relação entre o consumo e interação com deepfakes, mídias editadas e interações com chatbots em um período emocional instável com a influência na criação de memórias falsas. Descrevendo o potencial da ferramenta em ampliar falsas recordações por meio de construções audiovisuais.
Afirmando que a memória humana é um processo construtivo, maleável e suscetível a distorções. E quando exposta a mídias produzidas por IA cria-se narrativas e evidências textuais ou visuais que, mesmo fabricadas, são recebidas como autênticas pelo cérebro, demonstrando um enorme potencial para moldar as recordações humanas. Apresentando a influência que a IA detém sobre a memória afetiva, ocasionando uma dificuldade na distinção entre uma memória verdadeira e falsa.
As pesquisadoras descrevem que além das pessoas que estão passando por um processo de vulnerabilidade emocional serem mais suscetíveis a criação de falsas memórias. Devido ao desenvolvimento cognitivo ainda em curso e ao declínio da função executiva, respectivamente, crianças e idosos apresentam maior suscetibilidade à formação de memórias falsas quando comparados a adultos jovens. Assim, a construção de memórias por meio de experiências artificiais impactam diversos grupos.
A memória afetiva constitui um dos pilares da identidade humana e a nossa capacidade de interpretar e interagir com mundo, a revivência do passado por meio do artificial impacta o reconhecimento do real. Já que a procura da IA para criarem produtos audiovisuais que promovem um sentimento prazeroso se mostra cada vez mais recorrente entre os usuários. Apresentando uma linha tênue entre até onde as trends deixam de ser entretenimento e passam a ser preocupantes, devido a interferência da autenticidade humana.
Mentes Terceirizadas
A inteligência artificial ultrapassa a condição de mera ferramenta de produtividade para alterar as dinâmicas centrais da mente humana. Ao intervir nos registros do passado, a tecnologia tenciona dois pilares da experiência individual: a capacidade analítica e a construção afetiva. No campo emocional, a simulação de movimentos e sorrisos de parentes falecidos oferece um amparo imediato para a dor da perda, mas impõe um custo cognitivo silencioso, pois a mente, suscetível a sugestões, tende a assimilar as edições digitais como versões definitivas dos fatos.
Se a criação de falsas memórias e a terceirização do raciocínio são os problemas centrais, como a sociedade pode reagir sem cair na proibição ineficiente? As respostas mais estruturadas que emergem globalmente não tentam banir os algoritmos, mas atuam em três frentes complementares: regulação de transparência, imunização cognitiva por meio da educação e governança corporativa na origem do software.
A primeira linha de resposta ataca a raiz do engano visual através do combate à dissimulação algorítmica. Com a aprovação do AI Act, a União Europeia tornou-se o primeiro bloco global a testar uma solução jurídica para o problema (Acesse o texto oficial do AI Act). A mecânica da lei exige que qualquer imagem, áudio ou vídeo gerado ou manipulado por inteligência artificial contenha meta dados rastreáveis e marcas d'água digitais invisíveis a olho nu, mas detectáveis por navegadores e redes sociais.
O objetivo prático dessa medida é impedir que o cérebro processe o conteúdo sintético como um documento histórico autêntico, garantindo um alerta visual automático no momento do consumo. A eficácia do AI Act, contudo, enfrenta limites técnicos claros: enquanto grandes corporações como a OpenAI e a Google implementam esses padrões de transparência, ferramentas de código aberto e redes clandestinas continuam gerando mídias sem qualquer tipo de sinalização, revelando que a legislação protege o ecossistema legal, mas deixa margem para a circulação de conteúdos sem rastro nas redes privadas de mensagem.
Infográfico apresenta os principais pontos da Lei de IA da União Europeia (AI Act), que regulamenta o uso da inteligência artificial com base nos níveis de risco dos sistemas | Reprodução: ChatGPT
Como a regulação estatal não consegue monitorar cada arquivo que chega às telas individuais, a segunda resposta foca na capacidade do próprio cérebro de filtrar o que vê. A experiência da Finlândia destaca-se como o modelo mais bem-sucedido de resposta pedagógica à manipulação digital. (Saiba mais sobre o modelo educacional finlandês). Desde o ensino infantil até a formação de adultos, o país integrou o letramento midiático e algorítmico de forma transversal às disciplinas escolares.
Em vez de focar apenas em checagem de fatos tradicional, o método finlandês ensina a mecânica da persuasão digital. Os alunos aprendem como redes neurais sintetizam rostos, realizam exercícios práticos de edição para entender a facilidade de adulteração de um registro e analisam a própria suscetibilidade emocional a conteúdos manipulados. Os dados governamentais mostram que a Finlândia lidera o índice europeu de resiliência à desinformação há anos consecutivos.
No entanto, especialistas ponderam que essa imunidade cognitiva exige investimentos contínuos de longo prazo e um contexto de alta confiança nas instituições públicas, sendo um modelo de difícil replicação imediata em países com disparidades educacionais profundas.
A terceira frente de solução busca impedir que ferramentas psicologicamente danosas cheguem ao mercado antes de uma avaliação de impacto. No Brasil, diretrizes como as apresentadas no “Manual para Criação de Comitês de Ética em Inteligência Artificial” do Ministério Público do Trabalho (MPT) propõem a aplicação do conceito de proteção desde a concepção (privacy and safety by design). (Acesse o manual do MPT).
A proposta baseia-se na criação de comitês multidisciplinares, compostos não apenas por engenheiros de software, mas também por psicólogos, neurocientistas e especialistas em ética, para auditar ferramentas de restauração de fotos e chatbots afetivos antes do lançamento comercial. O desafio desse modelo reside na adesão voluntária das empresas e na velocidade das auditorias, que frequentemente é atropelada pelo ritmo acelerado de lançamentos das big techs.
Analisadas em conjunto, essas iniciativas mostram que enfrentar os riscos da IA sobre a memória humana não é uma questão de utopia ou conscientização abstrata, mas de engenharia de processos. A legislação estabelece as regras de transparência, a educação fortalece o filtro crítico individual e a governança limita os excessos da indústria.
A preservação da história de vida e da autenticidade das lembranças exige um esforço consciente de gestão humana, garantindo que as ferramentas tecnológicas continuem expandindo a capacidade de comunicação sem tomar para si a custódia de quem nós somos.