Estados Unidos, 30 marzo 2023. El desarrollo de la Inteligencia Artificial (IA) se encuentra en un momento de auge y por ello diversos investigadores en el área y tecnólogos, entre ellos Elon Musk, firmaron una carta en la que solicitan que se detenga la investigación y trabajo en estos sistemas, debido a los “riesgos para la sociedad y la humanidad” que representan.
De acuerdo con el documento, la etapa de desarrollo en
la que se encuentran los sistemas de IA actualmente es vertiginosa y “nadie, ni
siquiera sus creadores, puede entender, predecir o controlar de manera
confiable”.
En este contexto, pidieron a todos los laboratorios de
IA detener sus trabajos en este campo por lo menos durante seis meses. “Esta
pausa debe ser pública y verificable”, se puede leer en la misiva, donde
también se destaca que si las empresas no son capaces de hacerlo, entonces
deben intervenir los gobiernos para regular este asunto.
La carta fue publicada por la organización sin fines
de lucro, Future of Life Institute y el argumento principal detrás de su
preocupación es que la IA tan avanzada podría representar un cambio profundo en
la historia de la vida en la Tierra y debe planificarse y gestionarse con
recursos proporcionales.
“Desafortunadamente, este nivel de planificación y
gestión no está sucediendo, a pesar de que en los últimos meses han visto a los
laboratorios de IA atrapados en una carrera fuera de control para desarrollar e
implementar mentes digitales cada vez más poderosas”, se lee en la carta.
Incluso se resalta que la propia OpenAI, empresa
responsable de desarrollar uno de los modelos de IA más avanzados hasta el
momento, GPT-4, ha expresado la necesidad de una “revisión independiente” de
los sistemas para garantizar que cumplen con los estándares de seguridad.
“Los laboratorios de IA y los expertos independientes
deben utilizar esta pausa para desarrollar e implementar conjuntamente
protocolos de seguridad avanzado de IA que sean rigurosamente auditados y
supervisados por expertos externos independientes”, mencionan.
Además de Elon Musk, entre los firmantes de este
documentos se encuentran el autor Yuval Noah Harari, el cofundador de Skype,
Jaan Tallinn, el cofundador de Apple, Steve Wozniak, así como reconocidos
investigadores de IA, como Stuart Russell o Yoshua Bengio, entre otros.
Este miércoles, el gobierno del Reino Unido publicó
una serie de recomendaciones para la industria de la IA, resaltando que
actualmente la tecnología se encuentra en un periodo de frenético desarrollo y
por lo tanto es necesario que sigan ciertas reglas en algunas áreas
específicas.
0 comentarios:
Publicar un comentario