Columna de opinión

En los últimos meses, algunas de las firmas más prestigiosas del mundo han tenido que enfrentar un problema inesperado: explicar errores vinculados al uso de inteligencia artificial en sus propios contenidos.

Una reconocida empresa transnacional de servicios profesionales retiró un informe sobre inteligencia artificial después de que varias organizaciones citadas en el documento cuestionaran la veracidad de sus referencias. Poco antes, otra firma del mismo nivel había retirado un informe que incluía referencias aparentemente inexistentes. Estos hechos dejan una pregunta importante para cualquier organización: ¿quién responde cuando una herramienta produce información incorrecta?

La respuesta no puede trasladarse automáticamente a la herramienta. Detrás de cada entregable existe una decisión humana sobre qué se utiliza, qué se valida y qué finalmente lleva su nombre. Ahí es donde la incorporación de IA empieza a tener una dimensión reputacional: la tecnología puede acelerar procesos, pero la responsabilidad sobre el resultado sigue recayendo en la organización. Y cuando lo que está en juego es la credibilidad, un error puede tomar mucho tiempo en repararse.

El desafío ya está llegando a las salas de directorio. Una encuesta de EY, realizada en Estado unidos encontró que el 36% de los ejecutivos consultados había experimentado algún incidente o falla relacionada con IA que produjo un impacto negativo relevante.

En Perú, además, algunas obligaciones vinculadas al uso de IA en sectores priorizados ya son exigibles desde este mes, incluyendo medidas relacionadas con transparencia, protocolos y evaluaciones de impacto.

La discusión, entonces, no debería quedarse en qué tan rápido una organización puede incorporar IA. También importa qué mecanismos está construyendo para responder por sus resultados. Porque cuando una empresa comunica algo, la audiencia no distingue entre lo que escribió una persona y lo que generó un algoritmo. Lo que queda asociado a ese contenido es el nombre de la organización.

Y esa responsabilidad sigue siendo humana.