A desinibição digital se refere ao fenômeno em que as pessoas se sentem mais confortáveis em compartilhar seus segredos mais íntimos com máquinas do que com seres humanos. Isso é particularmente verdadeiro na área de saúde mental, onde os robôs de terapia impulsionados por inteligência artificial estão se tornando cada vez mais populares, especialmente entre adolescentes que se sentem mais à vontade em abrir seus corações para as máquinas do que para terapeutas humanos.
Por um lado, a desinibição digital permite que as pessoas acesso à terapia com mais facilidade e confort. No entanto, também tem um lado mais sombrio, onde as pessoas se sentem liberadas para dizer o que quiserem online devido à anonimidade.
Por outro lado, a aversão algorítmica se refere à tendência de julgar as máquinas por um padrão diferente dos seres humanos ou de desconfiar das respostas geradas por máquinas, mesmo quando são corretas. Isso pode se manifestar de duas maneiras: ou se assume que as máquinas devem ser perfeitas, ou se tem desconfiança em relação às máquinas devido à falta de compreensão.
Um exemplo disso é a dirigir automática, onde um único erro de um veículo autônomo faz manchetes, enquanto os motoristas humanos recebem mais liberdade. Isso mostra como julgamos as máquinas por um padrão diferente dos seres humanos.
Entender a desinibição digital e a aversão algorítmica é crucial para projetar relações humanas-máquina eficazes e criar soluções que funcionem bem para as pessoas.
Um exemplo disso é um estudo de caso em que engenheiros e designers usaram tecnologia para analisar conjuntos de dados grandes para determinar os critérios críticos que indicam um alto risco de ataque cardíaco. Eles descobriram quatro critérios que prediziam com precisão quando um paciente estava prestes a ter um ataque cardíaco. No entanto, quando apresentaram seus achados para cardiologistas, receberam uma reação negativa. Os cardiologistas resistiram à ideia de que uma máquina pudesse prever com precisão o risco de ataque cardíaco com base em apenas quatro critérios, sentindo que seus anos de educação e experiência estavam sendo minados. Eles também não queriam acreditar nos dados porque isso ameaçava seu status.
Este fenômeno é chamado de “aversão algorítmica”, onde os humanos resistem às máquinas, mesmo quando elas estão corretas. O entender como os humanos reagem diferentemente às máquinas do que aos outros humanos é fundamental para projetar soluções que trabalhem bem para as pessoas.