A inteligência artificial (IA) também pode ser preparada para se esquivar de mentiras: pesquisadores de universidades dos Estados Unidos e de Israel desenvolveram parâmetros para que os modelos detectem a inserção de informações para enganar sistemas. A tecnologia é direcionada a plataformas usadas para determinar valores de seguros e afins.
- Como a inteligência artificial pode conversar como humanos?
- Como treinar uma inteligência artificial?
A iniciativa aparece no estudo “Os humanos deveriam mentir para as máquinas? A compatibilidade de incentivos dos estimadores de dispersão estruturada Lasso e GLM”, com coautoria dos pesquisadores Mehmet Caner (Universidade Estadual da Carolina do Norte) e Kfir Eliaz (Universidade de Tel-Aviv e Universidade de Utah).
Parâmetros ajudam sistemas de IA a detectar mentiras
A pesquisa tem como foco serviços que, no geral, utilizam algoritmos orientados por estatísticas para fazer previsões para calcular valores e riscos, como bancos e seguradoras. No entanto, Caner explica que a abordagem cria incentivos para mentiras para reduzir o preço do seguro, da hipoteca, entre outros casos.
–
Siga o Canaltech no Twitter e seja o primeiro a saber tudo o que acontece no mundo da tecnologia.
–
Em um comunicado, a universidade da Carolina do Norte aponta que os desenvolvedores criaram um conjunto de parâmetros de treino para sistemas de IA. “Os novos parâmetros de formação se concentram no reconhecimento e na contabilização dos incentivos econômicos do usuário”, explica a nota. “Ou seja, a IA treina para reconhecer circunstâncias em que um usuário pode mentir para melhorar os seus resultados”.
Contudo, apesar do avanço, Caner admite que o sistema não é impenetrável. O professor da NCSU informa que “pequenas mentiras” ainda podem passar despercebidas. “Precisamos fazer algum trabalho adicional para entender melhor onde está o limiar entre uma ‘pequena mentira’ e uma ‘grande mentira’”, observa.
Pesquisadores disponibilizam parâmetros
Os parâmetros de treinamento estão disponíveis para que outros desenvolvedores tenham a oportunidade de experimentar o novo sistema. Contudo, o estudo só pode ser acessado mediante ao pagamento no periódico “Journal of Business & Economic Statistics”, com preços a partir de US$ 61.
Trending no Canaltech:
- Review Redmi Note 13 Pro | O celular veloz com câmera de 200 MP
- Tomografia do copo Stanley revela onde está o chumbo
- O Problema dos 3 Corpos | Por que a série tem esse nome?
- Rumo à cura da AIDS, edição genética elimina HIV das células
- 8 modelos de planilhas prontas para controle de gastos mensais
- Lollapalooza 2024 | Como assistir aos shows ao vivo
Fonte: Canaltech
