La IA generativa ha avanzado mucho, pero las alucinaciones siguen siendo algo común. Y la IA preferiría inventar una respuesta que decir que no sabe algo. Quienes lo utilizamos muchas veces sabemos que no podemos confiar en él al 100% y debemos realizar comprobaciones siempre. En Deloitte no pensaron que una revisión fuera importante y ahora tienen que devolver casi 300.000 dólares al gobierno australiano.
¿Qué pasó? El Departamento de Trabajo del Gobierno australiano encargó un informe a la consultora Deloitte. Se estrenó el pasado mes de julio y todo iba bien hasta que, como dicen APUn investigador de la Universidad de Sydney alertó a los medios de que el informe estaba lleno de referencias falsas, incluida una cita inventada de un fallo judicial y referencias a estudios que no existían. La empresa lo retiró y se publicó una versión revisada.
¿Por qué es importante?. La industria de la consultoría es un negocio multimillonario (se estima que generará una enorme facturación para 2024). 354 mil millones de dólares) y es uno de los sectores vulnerables a la “sustitución de la IA” por su naturaleza y funcionamiento. La IA ya es una tecnología generalizado en la industria para tareas como análisis de big data, elaboración de informes o presentaciones y otras tareas administrativas. El caso de Deloitte es un buen ejemplo de esto, pero muestra que la supervisión humana es necesaria. Probablemente veremos más casos de este tipo en el futuro.
Consecuencias. El gobierno pagó a Deloitte casi 300.000 dólares para elaborar el informe, por lo que la empresa tendrá que devolver parte del importe. Sin embargo, Barbara Pocock, senadora de los VerdesPiensa que deberían reembolsar el importe total: «Deloitte hizo un mal uso de la IA: citaron mal a un juez y utilizaron referencias inexistentes (…) Estas son las cosas por las que un estudiante de primer año se metería en muchos problemas».
Escóndelo, no se notó.. Chris Rudge, el investigador que descubrió el pastel, dice que el documento contenía al menos 20 errores, incluida una referencia a un libro escrito por alguien que sabía que no existía. Quizás lo más serio es que cita una frase completamente inventada de un juez. Pese a ser un caso tan evidente, Deloitte no ha admitido que los errores hayan sido causados por el uso de IA, limitándose a decir que “el asunto se resolvió directamente con el cliente”.
Imagen | Wikipedia
En | Klarna tiene claro que la IA es el mejor aliado posible. Entonces la usó para reemplazar a su director ejecutivo.