En una extensa publicación en X, Altman planteó como primera amenaza la posibilidad de que la humanidad termine perdiendo el control sobre el futuro frente a sistemas de inteligencia artificial cada vez más poderosos. “Esto es inaceptable”, señaló, y remarcó que OpenAI está “inequívocamente del lado de la humanidad”. Según explicó, la IA debe estar siempre al servicio de las personas y, para lograrlo, las técnicas de alineación y seguridad tienen que avanzar por delante de las capacidades de los modelos.
En ese sentido, el CEO de OpenAI sostuvo que las empresas que desarrollan los modelos más avanzados deben asumir nuevas responsabilidades. Altman recordó que, años atrás, empresas como OpenAI desarrollaron políticas como las “Responsible Scaling Policies” y los “Preparedness Frameworks”, enfocadas principalmente en la seguridad de los modelos antes de su implementación.
Ahora, según explicó, el escenario cambió. El aumento de las capacidades de los modelos obliga a incorporar evaluaciones de seguridad durante su desarrollo. La otra amenaza que identificó Altman no tiene que ver directamente con que la IA se vuelva incontrolable, sino con quién controla una tecnología extremadamente poderosa. El CEO de OpenAI advirtió que podría producirse un escenario en el que una persona o una empresa utilice una inteligencia artificial extraordinariamente poderosa para imponer su propia visión del mundo sobre el resto de la sociedad. Según su planteo, el resultado podría ser “extremadamente distópico”.
El riesgo de concentración, además, no se limitaría a una compañía. Altman mencionó también la posibilidad de que un solo país acumule demasiado poder gracias a sus capacidades de inteligencia artificial. De esta manera, sostuvo que evitar los dos extremos requiere encontrar un “estrecho camino intermedio”.