Famosa, imaginativa y mentirosa

María Rosa Beltramo

La inteligencia artificial es una herramienta muy poderosa con un problema de difícil resolución; su autonomía.

Los expertos sostienen que los algoritmos aprenden de forma diferente que los humanos. Pueden ver relaciones y patrones que se nos escapan.

Cada diciembre, la revista Nature elige a los diez protagonistas que más hicieron por la ciencia durante el año. En la selección que presenta este 2023, por primera vez, incluyó a un ente que no es humano.

Se trata de ChatGPT, capaz de responder a preguntas y mantener conversaciones, escribir trabajos académicos, resumir artículos científicos y elaborar documentos que sirvieron para pedir ayudas de investigación.

Fue necesario que generara una auténtica revolución para lograr semejante distinción, aunque quienes decidieron el galardón no ignoran que tiene un costado oscuro.

/Inicio Código Embebido/

/Fin Código Embebido/

En Estados Unidos y por una circunstancia casi fortuita tuvieron pruebas de la independencia con la que se maneja lo que, en definitiva, es sólo un programa.

El abogado Steven Schwartz de la firma neoyorquina ‘‘Levidow, Levidow & Oberman’’, fue contratado por Robert Mata para presentar una demanda por lesiones contra Avianca Airlines.

Como lo hacen la mayoría de los estudios, el letrado utilizó el ChatGPT para redactar los argumentos contra la compañía aérea.

La IA no encontraba nada que valiera la pena para respaldar los alegatos, pero como es maravillosamente imaginativa, lo creó.

En la carpeta de Steven Schwartz, su silenciosa y eficaz colaboradora incluyó fallos de ‘’Varghese v. China South Airlines, Martínez v. Delta Airlines, Shaboon v. EgyptAir, Petersen v. Iran Air, Miller v. United Airlines, and Estate of Durden v. KLM Royal Dutch Airlines’’.

Con semejante acopio de evidencia, nada podía salir mal. Sin embargo, el panorama se oscureció cuando los representantes legales de la contraparte intentaron acceder a toda esa jurisprudencia. Allí se enteraron de que no existía; la había fabricado la IA.

Expertos informáticos del tribunal decretaron que "tiene una propensión a inventarse cosas, incluso citas judiciales y, por otra parte, no es adecuada ya que existe la posibilidad que incorpore algún tipo de sesgo desconocido o imprevisto".

Concluyeron entonces que "la inteligencia artificial generativa es el producto de una programación ideada por seres humanos que, a diferencia de los abogados, no han jurado dejar a un lado prejuicios, predisposiciones y creencias personales".

En consecuencia, se dispuso anular todos los expedientes "en los que no se haya presentado el certificado, donde manifieste que leyó los requisitos del tribunal y que tendrá responsabilidad por el contenido presentado".

Ese es el punto esencial. La IA es rápida, es imaginativa y es expeditiva pero no tiene barreras éticas y por eso, si no existe jurisprudencia, la inventa.

/Inicio Código Embebido/

/Fin Código Embebido/

En Brasil el Consejo Nacional de Justicia, órgano encargado de mejorar el sistema judicial, pidió al magistrado Jefferson Rodrigues que explique la publicación de una decisión que contenía fragmentos erróneos formulados por el ChatGPT.

Rodrigues, que se desempeña en el estado de Acre, fundamentó su sentencia con antecedentes procesales falsos, atribuidos al Supremo Tribunal de Justicia.

Ahora se sabe que la IA puede producir escritos tan perfectos como mentirosos. La duda es si la reentrenarán para que sea capaz de descubrir la verdad. Y respetarla.