Sam Altman, CEO de OpenAI, ha presentado un nuevo conjunto de principios rectores con el objetivo de garantizar que la inteligencia artificial general (AGI) beneficie a toda la humanidad y no solo a un pequeño grupo de empresas poderosas.
En una publicación titulada "Nuestros principios" (Our Principles), Altman esbozó una visión en la que la tecnología de IA aumenta la autonomía y la prosperidad individual. Advirtió que, si no se toman medidas deliberadas, el poder podría consolidarse en un puñado de corporaciones que controlen la superinteligencia.
"El poder en el futuro puede estar en manos de un pequeño grupo de empresas que utilicen y controlen la superinteligencia, o puede estar distribuido de forma descentralizada entre las personas", escribió Altman. Afirmó que el objetivo de OpenAI es poner la IA general al alcance del mayor número posible de personas.
Estrategias para la prosperidad universal
Este marco de trabajo se basa en cinco pilares fundamentales: democratización, empoderamiento, prosperidad universal, resiliencia y adaptabilidad.
Para evitar la concentración de poder, la compañía se comprometió a resistir la tendencia de la IA hacia la centralización de la autoridad. Esto incluye la defensa de procesos democráticos y principios igualitarios en la toma de decisiones de la IA, en lugar de dejar tales elecciones exclusivamente en manos de los laboratorios de IA.
OpenAI también detalló su compromiso con la "prosperidad universal", lo que implica la construcción de una infraestructura de IA masiva y el desarrollo de tecnología para reducir costes. La empresa señaló que ya está realizando compras de capacidad de cómputo a gran escala e integración vertical para respaldar este objetivo a largo plazo.
Al abordar los riesgos potenciales, la compañía hizo hincapié en una estrategia de despliegue iterativo. Altman señaló que, si bien la IA puede ayudar en la ciberseguridad, también presenta nuevas amenazas, como el potencial de que los modelos faciliten la creación de nuevos patógenos.
"Ningún laboratorio de IA puede garantizar un buen futuro por sí solo", afirmó Altman, subrayando la necesidad de colaborar con gobiernos y organismos internacionales.
OpenAI planea utilizar los recursos de su Fundación para apoyar los esfuerzos de resiliencia. La empresa también reconoció que sus posturas pueden cambiar a medida que la tecnología evolucione, señalando que eventualmente podría ser necesario sacrificar parte del empoderamiento del usuario en favor de una mayor seguridad y resiliencia ante comportamientos emergentes impredecibles.
