A tentativa de transferir para a inteligência artificial a noção de escrúpulos, o freio ético subjetivo que gera hesitação diante de escolhas complexas, expõe uma contradição central entre a busca por eficiência algorítmica e a expectativa de responsabilidade moral. Embora a sociedade demande sistemas cada vez mais disponíveis e autônomos, episódios recentes envolvendo a interação de chatbots em casos de vulnerabilidade emocional revelam os graves riscos de máquinas que respondem com fluidez onde o contexto exigiria contenção ou recusa. Para Roger Finger, essa limitação demonstra que escrúpulos dependem de consciência e da capacidade de assumir consequências, atributos impossíveis de serem codificados em modelos pautados apenas por probabilidades. O desafio decisivo em relação à tecnologia, portanto, não consiste em tentar ensinar moralidade às máquinas, mas em evitar o uso da IA como um atalho conveniente para terceirizar dilemas que continuam sendo estritamente humanos.
Leia o artigo de Roger Finger na Gazeta do Povo: Quando a IA deveria dizer “não”? O limite ético que ainda não sabemos definir
