Máscaras, inteligência artificial e logro

 SE VOCÊ QUISER LER ESTE TEXTO EM SEU IDIOMA, PROCURE A OPÇÃO "TRADUTOR" (TRANSLATOR) NO CANTO SUPERIOR ESQUERDO DA TELA -

Ano passado, considerando o Carnaval, publiquei uma postagem sobre esta festa popular, focado principalmente na prática do uso de máscaras. O texto ainda se encontra neste blog e se chama "A polissemia das máscaras", datado de 23/04/2022, por conta do Carnaval postergado pelo prefeito do Rio de Janeiro por precauções a respeito da possível disseminação do COVID-19 que, em fevereiro daquele ano, ainda estava alta.

Eu retomo o tema das máscaras neste Carnaval, mas por outra via. Desta vez me interessa contrapor o jogo de ilusão produzido pelo uso das máscaras com outro que, nas últimas semanas, tem feito barulho entre usuários da internet interessados nos rápidos avanços da tecnologia da informação: a disponibilização de instrumentos de inteligência artificial avançados que, segundo os mais otimistas, de fato, pensam. Alguns temem o desenvolvimento da I.A. (inteligência artificial), outros estão empolgados - pouco importa; o que me interessa é que todos temos expectativas de que o desenvolvimento tecnológico possa, um dia, vir a produzir computadores capazes de pensar de modo perfeitamente idêntico ao dos humanos, de modo que um humano não poderá mais distinguir se algo foi produzido por um computador ou por outro humano.

Imagem retirada da internet em site dedicado a explicar o que é a I.A.; nela se vê a identificação do cérebro ao pensamento que, por sua vez, é representado pelo funcionamento da programação de um chip

O que está em pauta é o tema do logro e da produção de um certo tipo de sujeito identificado a seu pensamento consciente - o que não é exatamente novidade: esse é o sujeito que René Descartes apresentou como logro ideal moderno e que ele tanto quis ver em si mesmo (DESCARTES, 1637). A novidade está na tecnologia desenvolvida a partir deste logro e orientada para reforçá-lo. 

Mas, antes, falemos do Carnaval e da máscara!

Em seu O seminário livro 4: as relações de objeto (LACAN, 1956-57), o psicanalista Jacques Lacan, no espírito de seu retorno a Freud e em oposição a práticas e teorias psicanalíticas que tinham se desenvolvido nos últimos 20 anos que, segundo ele, haviam se afastado da verve subversiva da pena freudiana para incorrer num moralismo normalizador, se dedica a burilar uma teoria psicanalítica do objeto a partir das pistas e do método freudianos. Por isso mesmo, tal como procedia Freud, partiu de exemplos extremos, psicopatológicos, para dali compreender também o funcionamento psíquico mais comum, banal, normal. Por isso, neste seminário, Lacan se dedicou a compreender a estrutura de dois quadros clínicos que põem em primeiro plano a questão do objeto, são eles o fetichismo e a fobia.

Não tratarei do tema da fobia aqui, somente do fetichismo, lembrando o leitor de que o interesse de Lacan, em 1956-57, não era patologizar o fetichismo, mas, ao contrário, encontrar neste quadro já estabelecido por uma certa tradição psiquiátrica como patológico, uma estrutura que implica algo mais geral e fundamental que o próprio fetichismo e que é o modo como se estabelece o laço erótico.

Típica máscara de Carnaval

A estrutura que Lacan percebe no fetichismo e também na relação amorosa é aquela que se dá ao se antepor algo entre o sujeito e o que ele olha, preferencialmente algo que não impede o olhar, mas que, ao mesmo tempo, o permite e o dificulta. O exemplo-princeps de Lacan é o do véu. Entre o sujeito que quer ver e o que é visto há um véu cujo efeito é o de fazer parecer, de sustentar a ilusão de que ele guarda alguma coisa do olhar; de que há um objeto por trás - onde não há nada.

O véu garante ao sujeito a crença, a expectativa de que há um objeto ali onde não há. Todo fetichismo funcionaria assim. Basta lembrarmos a teoria freudiana do fetichismo (FREUD, 1927): o objeto-fetiche funciona como um substituto do falo que a mulher não tem - e sua própria condição de substituto afirma a castração, reconhece que a mulher não tem um falo, e, ao mesmo tempo, 'faz-de-conta' que há um. O fetiche serve, deste modo, de véu, de instrumento de um logro, mas de um logro específico: de um logro com uma piscadela de olho, de um logro reconhecido como jogo, como pura encenação, como faz-de-conta. O fetichista não é necessariamente um tolo, muitos deles sabem muito bem que o véu vestido por sua parceira não dá a ela um falo, mas isso funciona mesmo assim, na condição de ambos entrarem no jogo.

O amor, acrescenta Lacan no mesmo seminário, funciona de modo semelhante. Ele veio desenvolver alguns anos depois, em seu seminário sobre a transferência (LACAN, 1960-61), o qual ele dedica mais profundamente ao tema do amor, se apoiando em O banquete (PLATÃO, ~385 a.C.-380 a.C.), uma concepção do sujeito amado como véu. Ali, a partir de uma análise do discurso final de Alcibíades a respeito de seu amor por Sócrates, Lacan propõe a seguinte estrutura: aquele objeto que ele começou a abordar em 1956-57, aqui aparece sob o termo grego agalma, ou, simplesmente, no jargão lacaniano, como objeto a. Este objeto, pelo que Lacan havia até então desenvolvido sua abordagem do que é próprio da clínica e do pensamento psicanalíticos, se aproxima do que Freud já havia pensado como objeto perdido. Ele não se estabelece como objeto senão como experiência subjetiva de uma falta. O amor se sustém na expectativa, na crença de que 'dentro', 'escondido', 'em algum lugar' do sujeito amado deve estar o objeto a. Ele é buscado como promessa de gozo, mas como ali o que há é nada, o que se experimenta é falta. Então pode-se dizer que o amor só perdura enquanto se busca algo além do outro/tela e, ao mesmo tempo, só nos ligamos a ele (o outro) pois ele nos faz crer que há algo além. Trata-se de uma mascarada.

Ora, as fantasias de Carnaval apenas deflagram o que é implícito no amor. O amante de Carnaval mascarado torna evidente a função de véu de sua figura, o caráter de fetiche da imagem que ele apresenta e a estrutura de jogo de ilusões que é o amor, como bem mostra a canção Noite dos mascarados, de Chico Buarque (BUARQUE, 1966). Neste sentido, o Carnaval tem função de Esclarecimento, pois ao se praticar o erotismo mascarado os envolvidos desmascaram a mascarada do amor. Não há necessariamente nada que reluz atrás da máscara, mas ela excita, acende o desejo de um sujeito que, no fundo, sabe que além não há nada. Talvez por isso o Carnaval seja verdadeiramente uma festa profana - porque retira o desejo de idealizações excelsas e o põe a jogar nas trajetórias terra-a-terra, em sentido metonímico, sem perspectiva de fim ou finalidade. O Carnaval praticaria, assim, a experiência do dizer e fazer a verdade, ao modo de Diógenes e dos outros filósofos cínicos da Antiguidade: visceralmente, em ato, em vida (DIÓGENES LAÉRCIO, séc III ; SLOTERDIJK, 1982; FOUCAULT, 1983-84). O sujeito é revelado como dividido entre o que deseja (em busca do objeto perdido) e o que ama (a máscara).

Aldous Huxley

Enfim, as máscaras de Carnaval são ilusões de faz-de-conta, de brincadeira, e, por isso, revelam as ilusões levadas à sério (como o amor apaixonado, em que os parceiros acreditam terem encontrado sua cara-metade e dissimulam a verdade de seu desejo insatisfeito). Mas, de uns tempos para cá, temos visto operar e se complexificar um aparato instrumental que se direciona exatamente para o reverso da mascarada lúdica de Carnaval - a mascarada da Inteligência Artificial.

Aqui é preciso evitar equívocos. Não quero dizer - com o termo mascarada - que seja falso que exista Inteligência Artificial. Para fazer isso, precisaríamos estar em acordo sobre o que é inteligência - e sabemos que estamos longe disso (há quem fale em inteligência emocional, em inteligência como sinônimo do uso de símbolos, inteligência como adaptação, inteligência como resolução de problemas etc.). Também precisaríamos estar em acordo a respeito de que haja alguma inteligência que não seja artificial, o que também é, francamente, algo difícil de determinar, pois não sabemos discernir com clareza o que é natural, inato, e o que foi construído pelo e no humano. Considero o tema da mascarada da Inteligência Artificial por outra via: a via da 'tecnologia do logro'.

Hannah Arendt mostrou muito bem que as técnicas de manipulação e controle populacional, através do logro de fazer as massas acreditarem que querem e sabem algumas coisas, que deliberam, que têm suas ideias próprias, quando, na verdade, é tudo efeito de propaganda massiva por parte de poucos, são uma característica fundamental dos estados totalitários (ARENDT, 1950). Mas a autora também acrescenta que tais táticas de governo extrapolaram os estados totalitários, foram e são aplicadas por grandes atores do mundo capitalista (sejam grupos econômicos ou políticos), o que nos leva a pensar se não há um totalitarismo capitalista...não é uma ideia original: Admirável mundo novo (1932), de Aldous Huxley é sobre isso e é anterior ao Estado nazista; o romancista inglês parece ter sido mais sensível que a filósofa alemã em perceber uma tendência totalitária no capitalismo da qual alguns instrumentos - como a propaganda - foram usados por Hitler, e não o contrário. Não quero com isso dizer que haja um antagonismo entre nazismo e capitalismo (o Estado nazista foi capitalista), mas sim que são diferentes, de modo que há um capitalismo não nazista (o que é óbvio), como pode haver um nazismo anticapitalista, não voltado para a produção e extração de lucros, mas sim para a pura destruição (que é o que foi o Estado nazista em seus momentos derradeiros, autodestrutivo, suicidário e oneroso [a Solução Final, pontua Arendt, custava economicamente muito caro e atrapalhava a economia de guerra]).

O uso das mídias para propagar ideias, ilusões de independência e desejos, portanto, não é estranha ao funcionamento do capitalismo. Toda uma tecnologia de seduções, logro, ilusões e capturas foi inventada e aplicada - normalmente chamamos isso de marketing; há toda uma indústria que trabalha só para isso. É evidente que o interesse de base é fazer com que o sujeito se torne um consumidor, em primeiro lugar e, em segundo, que se torne um consumidor compulsivo de tais e tais produtos. O que está em pauta são os interesses da indústria em lucrar com a venda de sua produção. Simples assim. Porém, não se trata de um jogo que se revela evidentemente como jogo e que, por isso, neutralizaria - ao menos parcialmente - seus efeitos. Muito pelo contrário, o mecanismo opera para fazer o sujeito acreditar que o que ele consome é o que ele quer, que ele não está de modo algum dividido, mas inteiro naquela experiência. Não mais um cartesianismo do sujeito identificado ao seu pensamento, mas um passo além: o sujeito identificado à sua demanda.

Cena do filme Vanilla Sky (Cameron CROWE, 2001), todo construído em torno do tema da máscara e do logro (tanto o do amor quanto o da I.A.)

Agora, um novo estágio das estratégias de marketing, através da TV e da internet tomou a frente quando as tecnologias da informação apresentaram um novo produto: a Inteligência Artificial, que a cada ano se apresenta ainda mais sofisticada. A respeito de grande parte dos produtos que encontramos por aí que vêm acompanhados do adjetivo 'inteligente', o que eles fazem de fato é oferecer instrumentos de logro tão apurados que tornam um sujeito não especialista no assunto (quase todo mundo) absolutamente incapaz de distinguir se algo é real ou não. Por exemplo: hoje há filmes cujos efeitos especiais são 'perfeitos', ultrarrealistas por conta de tecnologias de I.A. capazes de nos lograr perfeitamente. A ilusão é completa. Se nos anos 1990 Steven Spielberg causou espanto ao nos fazer ver dinossauros críveis na tela (SPIELBERG, 1993), hoje há filmes que utilizam imagens e vozes de atores mortos para fazê-los encenar e dizer coisas que jamais disseram realmente em vida e que o espectador não acredita que se trata de ilusão. Um exemplo é a 'participação' do falecido Peter Cushing em Rogue One - uma história Star Wars (Gareth EDWARDS, 2016). Parece que Bruce Willis sofre de demência e se aposentou dos cinemas, mas está negociando a venda de sua imagem e voz para 'atuarem' em produções futuras, considerando as perspectivas de lucro que ele e seus descendentes podem vir a ter com isso.

Quando ainda estamos falando de filmes - de obras de arte -, sabemos que se trata de fantasia, de faz-de-conta, mas as mesmas tecnologias podem ser utilizadas na produção de imagens falsas que levam desde à prática do cyberbulling às chamadas Fake News, dessa vez com imagem e som. Logros indiscerníveis capazes de afetar o real da política, da economia, da vida.

Instrumentos de I.A. recentemente disponibilizados ao público, às vezes de forma gratuita, na internet, são prometidos como capazes de pensar como os humanos. Mas como pensam os humanos? Os humanos sabem como pensam? Aí opera outro tipo de logro: fazer acreditarmos que sabemos como pensamos quando, na verdade, o que está em pauta é o contrário: desde a origem da cibernética, nós tomamos os computadores como modelo do que deve ser o nosso pensamento (LACAN, 1954-55). O computador simula, em seus efeitos, uma imagem que parece ser aquela do pensamento humano consciente, sonho cartesiano: tratar-se-ia de um pensamento articulado, desafetado, que acerta ou erra - mas não equivoca -, organizado, que busca ser coerente e preciso. Isto é o que se quer que seja o pensamento humano - um pensamento autocentrado de um sujeito não dividido, mas exato, pautado na obtenção de conhecimento e organização deste conhecimento em sentenças com sentido.

É essa perspectiva que toma os atos-falhos, as interrupções, os saltos associativos, os 'brancos', as incoerências, as tergiversações, as irrupções de afeto, o gestual esquisito, as gagueiras etc. como defeitos de uma máquina. A psicanálise se construiu mostrando que é justamente nestes fenômenos corporais e de linguagem que se faz presente o sujeito, seu desejo e sua possibilidade criativa. De resto, o que temos é o indivíduo assujeitado ao poder.

Imagem informativa de divulgação de uma 'casa inteligente'

O que se 'vende' como inteligência, na verdade, remete ao tema do assujeitamento. Talvez por isso, às vezes, o termo 'inteligente' é oferecido pela propaganda, em sua novilíngua (ORWELL, 1948), como sinônimo de obediente: por exemplo, o que é uma 'casa inteligente'? É uma casa que obedece, tal como um cão ou um escravo subjugado, à voz de seu dono. "Ascenda a luz!", "Ligue a TV!" etc.

Já mencionei Huxley e Orwell, mas é justo lembrar que muitas outras obras de ficção científica se preocuparam com a instrumentalização tecnológica do logro através da I.A., usada com fins de assujeitamento do indivíduo, tornando-o um consumista de ilusões em que ele verdadeiramente crê; por exemplo, Blade Runner (SCOTT, 1982), Matrix (WACHOWSKI & WACHOWSKI, 1999) e Vanilla Sky (CROWE, 2001). 

Outras flertam com a ideia de que pensar o pensamento humano como o funcionamento de uma máquina de produção de enunciados conscientes pode rapidamente reverter o mecanismo: as máquinas pensam tal qual e melhor que os humano. Em geral, nestas histórias, as I.A. tomam os humanos como dispensáveis ou como escravos em potencial, o que revela a verdade que está em jogo na equiparação do humano ao seu pensamento consciente e, por sua vez, à máquina - nestas condições ele é menos funcional que a máquina, é pior que ela e o é porque ele é um sujeito dividido, porque ele não consegue deixar de sê-lo. Ele deve ser assujeitado exatamente porque resiste a isso, porque não opera como uma máquina perfeita. É o que encontramos em 2001 - uma odisseia no espaço (KUBRICK, 1968), O exterminador do futuro (CAMERON, 1984) ou Ela (JONZE, 2013).

O posicionamento ético que o Carnaval, a psicanálise e a arte da ficção científica tomam é esse: afirmar a divisão do sujeito como potência criativa - o que as máquinas não têm...ao menos ainda...

Hal-9000, o computador vilão de 2001 - uma odisseia no espaço (Stanley KUBRICK, 1968)