La firma consultora Deloitte Australia acordó devolver el último pago de un contrato firmado con el gobierno australiano. La decisión se tomó tras admitir que utilizó Inteligencia Artificial (IA) generativa en la elaboración de un informe oficial. De hecho, el reporte, que costó 440,000 dólares australianos (aproximadamente $285,000 USD), estaba plagado de errores. Estos errores incluyeron citas a jueces que no existen, referencias ficticias y sentencias de la Corte Federal inventadas.
La “alucinación” de la IA le sale cara a Deloitte
El informe fue encargado por el Departamento de Empleo y Relaciones Laborales (DEWR) para revisar un sistema de cumplimiento dentro del programa de bienestar australiano. Sin embargo, la revisión de Deloitte no cumplió con los estándares de calidad esperados. La senadora laborista Deborah O’Neill, involucrada en la investigación, criticó que parecía que se estaba “dejando que la IA hiciera el trabajo pesado”. Ella agregó que el informe contenía el tipo de errores por los que un estudiante de primer año de universidad estaría en serios problemas.
El problema radica en la “alucinación” de los modelos de IA generativa. Los modelos tienden a inventar información para que el texto suene realista. En consecuencia, la firma admitió que utilizó un sistema de lenguaje basado en Azure OpenAI para acelerar la redacción. Por lo tanto, la empresa acordó devolver una parte sustancial del pago y retirar el informe original.
Transparencia y el futuro de la consultoría con Deloitte
El caso de Deloitte se considera una lección clara sobre los riesgos de abusar de la IA en la consultoría profesional. El informe fue corregido y reemplazado silenciosamente. La versión revisada incluyó una advertencia sobre el uso de la Inteligencia Artificial en su redacción.
Además, la firma global ha actualizado su política interna sobre el uso de IA. Finalmente, ahora exige una revisión humana obligatoria para todos los informes públicos y una trazabilidad estricta de las fuentes citadas. El incidente subraya la necesidad de que las grandes consultoras transparenten sus procesos de automatización.
