El 17 de mayo, el jefe de Seguridad de OpenAI, Jan Leike, renunció a su puesto. El exmiembro de la tecnológica dio una razón clara: en el último tiempo los procesos de seguridad pasaron a un segundo plano frente a la necesidad de innovar en los productos.
Sin embargo, advirtió a la empresa que, aunque él ya no forme parte del equipo, ellos seguirían teniendo la responsabilidad al desarrollar AGI: siglas en inglés que se refieren al concepto de inteligencia artificial general. En detalle, es una tecnología emergente que deriva de la IA pero es “más fuerte”. Ofrece, según Xataka, la posibilidad de realizar con éxito cualquier tarea intelectual que hagan los humanos (incluso mejor) y la capacidad de crecer sola de forma exponencial y autónoma.
Pablo Costa, especialista en IA y conductor del podcast Inteligencia Artificial, explica a RED/ACCIÓN los tecnicismos de esta nueva tecnología, así como sus desafíos y beneficios.
—¿Qué es la inteligencia artificial general?
—Es una capacidad de la inteligencia artificial que permite resolver múltiples tareas en un único modelo. Hoy, los modelos que tenemos son especializados, por lo general, en realizar una única tarea. Por ejemplo, ChatGPT, que está entrenado para interactuar como un chat, recibir texto y generar texto. En medicina podés tener un modelo que analice tomografías y busque tumores. Son específicos de alguna tarea.
—¿Qué características tiene esta nueva tecnología que la diferencia de los otros sistemas?
—Que las otras tienen que ser entrenadas para un campo de acción específico. Si es un modelo de lenguaje, por ejemplo, hay que entrenarlo para eso. Una AGI puede hacer cualquiera de esas cosas, es mucho más versátil, más adaptable. Incluso se espera que pueda tener singularidad, un concepto que se refiere a la capacidad de aprender cosas nuevas, mejorarlas y adaptarse sola.
—¿En qué puede beneficiarnos?
—Lo principal sería la automatización y optimización de tareas, lo que aumentaría la eficiencia y la productividad. Pero lo más interesante, creo yo, está en avances científicos, en tecnología, en medicina. Con la AGI, se podría avanzar mucho más rápido en descubrimientos para el tratamiento de enfermedades, por ejemplo. Se cree también que podría tener impacto en lo social o en lo económico porque con su capacidad de tomar decisiones y con conocimientos sobre múltiples ámbitos de la vida humana podría decidir mejor en política o en economía que los seres humanos.
—¿Por qué creés que hay tanto temor en relación a esta tecnología?
—Por el miedo a que se salga de control. Una inteligencia artificial que tenga más capacidades que los seres humanos y sin límites podría traer consecuencias terribles. También hay mucho de la incertidumbre que traen todos estos cambios. El miedo a lo desconocido es algo típico del ser humano en cualquier cosa. Pero aumenta debido a la velocidad en la que se viene avanzando. En efecto, hace que sea difícil de procesar y de entender. También tiene que ver con pensar en manos de quién cae esta tecnología: qué Gobierno o qué empresa. Ambos pueden llegar a dar un mal uso.
—¿Qué medidas se deberían tomar para amortiguar sus posibles consecuencias?
—Me parece que frenar o prohibir no es el camino. Sí creo que tiene que haber una colaboración internacional donde todos los países traten de ponerse de acuerdo y que trabajen con grupos interdisciplinarios y personas que sean sociólogas, personas que sepan de tecnología de distintos ámbitos, que aporten lo suyo y que se establezcan marcos legales y regulatorios.
