Una ciudad en Brasil promulga una ordenanza redactada por ChatGPT, sin saberlo
Rio de Janeiro — Legisladores municipales de Brasil han promulgado la que parece ser la primera ley del pais redactada integramente por inteligencia artificial, aunque lo desconocian en ese momento.
La ordenanza experimental fue aprobada en octubre en la ciudad sureña de Porto Alegre, y el concejal Ramiro Rosario revelo esta semana que habia sido escrita por un chatbot, lo que provoco objeciones y suscito dudas sobre el papel de la inteligencia artificial en las politicas publicas.
Rosario dijo a The Associated Press que pidio a ChatGPT, el chatbot de OpenAI, que redactara una propuesta para impedir que el ayuntamiento cobrara a los contribuyentes la sustitucion de los medidores de consumo de agua en caso de robo. Despues la presento a sus 35 colegas del consejo sin introducir ni un solo cambio ni informarles acerca de su inedito origen.
“Si lo hubiera dicho antes, seguramente la propuesta ni siquiera se habria sometido a votacion”, indico Rosario a la AP via telefonica el jueves. Los 36 miembros del consejo la aprobaron por unanimidad y la ordenanza entro en vigor el 23 de noviembre.
“Hubiera sido injusto para la poblacion correr el riesgo de que el proyecto no fuera aprobado simplemente porque fue escrito por inteligencia artificial”, añadio.
La llegada de ChatGPT al mercado hace apenas un año ha generado un debate global sobre el impacto de los potencialmente revolucionarios chatbots alimentados por IA. Si bien algunos la ven como una herramienta prometedora, tambien ha causado inquietud y preocupacion por las repercusiones impensadas o no deseadas de que una maquina se encargue de tareas que actualmente realizan los seres humanos.
Porto Alegre, con 1.3 millones de habitantes, es la segunda ciudad mas grande del sur de Brasil. El presidente del ayuntamiento, Hamilton Sossmeier, se entero de que Rosario habia encargado a ChatGPT escribir la propuesta cuando el concejal se jacto del logro en las redes sociales el miercoles. Sossmeier, en un inicio, dijo a los medios locales que le parecia un “precedente peligroso”.
Lo que hacen los grandes modelos lingüisticos de inteligencia artificial que permiten la operacion de chatbots como ChatGPT es tratar de adivinar repetidamente la siguiente palabra de una frase, y son propensos a inventar informacion falsa, un fenomeno que a veces se denomina alucinacion.
Todos los chatbots a veces introducen informacion falsa a la hora de resumir un documento, desde un 3% de las veces en el caso del modelo mas avanzado de GPT hasta un 27% en uno de los modelos de Google, de acuerdo con una investigacion recien publicada por la empresa de tecnologia Vectara.
En un articulo publicado en el sitio web del Centro de Profesion Juridica de la Facultad de Derecho de Harvard este año, Andrew Perlman, decano de la Facultad de Derecho de la Universidad de Suffolk, escribio que ChatGPT “podria augurar un cambio aun mas trascendental que la llegada de internet”, pero tambien advirtio de sus posibles deficiencias.
“Puede que no siempre sea capaz de dar cuenta de los matices y las complejidades del derecho. Debido a que ChatGPT es un sistema de aprendizaje automatico, podria no tener el mismo nivel de comprension y juicio que un abogado humano a la hora de interpretar principios y precedentes juridicos. Eso podria generar problemas en situaciones en donde se necesita un analisis juridico mas profundo”, escribio Perlman.
Rosario no es el primer legislador del mundo a poner a prueba las habilidades de ChatGPT. Otros han hecho lo mismo de manera mas limitada o con resultados menos exitosos.
En Massachusetts, el senador estatal Barry Finegold recurrio a ChatGPT para que le ayudara a redactar un proyecto de ley destinado a regular los modelos de inteligencia artificial, incluido ChatGPT. Fue presentado a principios de año, pero aun no se ha votado.
Finegold afirmo via telefonica el miercoles que ChatGPT puede ser de ayuda con algunos de los elementos mas tediosos del proceso legislativo, como buscar y citar correcta y rapidamente las normas que ya estan en vigor. Aun asi, es fundamental que todo el mundo sepa que se ha utilizado ChatGPT o una herramienta similar en el proceso, puntualizo.
“Queremos que el trabajo generado por ChatGPT lleve una marca de agua”, dijo, y añadio que el uso de la inteligencia artificial para ayudar a redactar nuevas leyes es inevitable. “Estoy a favor de que se use ChatGPT para escribir propuestas de ley, siempre que sea claro”.
Esa transparencia no se dio en el caso de la propuesta de Rosario en Porto Alegre. Sossmeier dijo que Rosario no informo a los demas concejales que ChatGPT habia redactado la propuesta.
Mantener secreto el origen de la propuesta fue intencional. Rosario explico a la AP que su objetivo no era solamente resolver un asunto local, sino tambien encender el debate. Dijo que introdujo una instruccion de 49 palabras en ChatGPT y este le regreso el borrador completo de la propuesta en pocos segundos, incluidos los considerandos.
“Esto convencido de que… la humanidad vivira una nueva revolucion tecnologica”, manifesto. “Todas las herramientas que hemos desarrollado como civilizacion pueden ser usadas para mal y para bien. Es por eso que tenemos que enseñar como usarlas para bien”.
Y el presidente del consejo, que en un principio se opuso al metodo, parece haber cambiado de opinion.
“Cambie de parecer”, dijo Sossmeier. “Empece a leer mas a fondo y vi que, por desgracia o por suerte, esto va a ser una tendencia”.
