Estados Unidos debería exigir que las empresas sean autorizadas por el gobierno si quieren desarrollar poderosos sistemas de inteligencia artificial, dijo el martes en una audiencia del comité senatorial el jefe de una de las principales empresas de inteligencia artificial del país.
En su primera comparecencia ante el Congreso, Sam Altman, director ejecutivo de OpenAI, la empresa que desarrolló ChatGPT, dijo que Estados Unidos «puede considerar una combinación de requisitos de licencia y prueba para el desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades».
Altman y Christina Montgomery, directora de privacidad y confianza de IBM, y Gary Marcus, profesor emérito de psicología y ciencias neuronales en la Universidad de Nueva York, fueron testigos en una audiencia organizada por el Comité Judicial del Senado de los EE. UU. para discutir la supervisión de la IA. .
El rápido avance de los sistemas de IA como ChatGPT ha llevado a muchos tecnólogos y académicos de alto nivel a pedirle a la industria que suspenda ciertos desarrollos y busque la intervención del gobierno si eso no sucede.
Pero hay poco consenso sobre cómo serían las regulaciones generales, y el Congreso y las agencias federales han tenido problemas para comprender su papel. En la víspera de su testimonio, Altman hizo una presentación ante unos 60 legisladores, asombroso muchos de ellos y se quedaron durante casi dos horas después de responder a las preguntas.
El senador Ted Lieu, D-California, dijo que Altman también demostró una versión de ChatGPT, que algunos legisladores nunca antes habían visto.
A diferencia de audiencias anteriores con líderes tecnológicos como el cofundador de Facebook, Mark Zuckerberg, o el director ejecutivo de TikTok, Shou Zi Chew, donde los miembros del Congreso a veces se mostraron abiertamente hostiles, los senadores simpatizaron en su mayoría con Altman y Montgomery.
El senador Richard Blumenthal, D-Conn., sugirió que se podría requerir que los modelos de inteligencia artificial divulguen la información en la que fueron entrenados.
“¿Deberíamos considerar laboratorios de pruebas independientes para proporcionar tarjetas de puntuación y etiquetas nutricionales o el equivalente de etiquetas nutricionales? Empaque que le dice a la gente si el contenido es seguro o no, ¿cuáles son los ingredientes? Blumenthal dijo.
Altman respondió positivamente a la idea.
Après que le sénateur Josh Hawley, R-Mo., ait suggéré que les gens pourraient utiliser l’IA comme source d’informations fiables, Altman a de nouveau déclaré qu’il pensait que le gouvernement avait un rôle à jouer dans la réglementation de la tecnologia.
“Creo que la regulación sería bastante sensata en eso”, dijo Altman. «La gente necesita saber si está hablando con una IA, si el contenido que está viendo se puede generar o no».
Pero Altman también dijo que cree que el público aprenderá a adaptarse a una avalancha de noticias falsas y medios asistidos por IA.
“Cuando Photoshop apareció en escena hace mucho tiempo, durante un tiempo la gente se dejó engañar por las imágenes retocadas con Photoshop y luego se dio cuenta rápidamente de que las imágenes estaban retocadas”, dijo. «Será así, pero con esteroides».
Marcus dijo que la industria de la IA está cerca de aprovechar las enormes cantidades de datos personales que las empresas tienen sobre las personas para explotar mejor sus gustos, aunque OpenAI e IBM no lo harán directamente.
“La publicidad hiperfocalizada definitivamente va a suceder”, dijo Marcus. “Definitivamente lo veremos. La tecnología está ahí en parte para poder hacer eso y ciertamente lo lograremos.
Algunas figuras de la industria han pedido al gobierno que deje la regulación de la IA por completo a las empresas detrás de la tecnología. Eric Schmidt, exdirector ejecutivo de Google, dijo el domingo en «Meet the Press» de NBC que «no hay forma de que una persona no industrial entienda lo que es posible».
Marcus pidió una organización a nivel de gabinete en los Estados Unidos para supervisar la IA.
“La cantidad de riesgos es grande. La cantidad de información a seguir es muy importante”, dijo.