Los principales CEOs de la industria afirman que la IA tiene el potencial de destruir a la humanidad en 5 a 10 años. Está la razón por la que necesitamos actuar ahora El 42% de los CEOs indicaron que la inteligencia artificial (IA) podría significar el fin de la humanidad en la próxima década. Esto es lo que sabemos.

Durante una cumbre en la prestigiosa Universidad de Yale, el 42% de los CEOs que la inteligencia artificial (IA) podría significar el fin de la humanidad en la próxima década. Estos no son líderes de pequeñas empresas: son 119 CEO de una variedad de compañías líderes, incluyendo al CEO de Walmart, Doug McMillion, al CEO de Coca-Cola, James Quincy, líderes de empresas de tecnología como Xerox y Zoom, así como CEOs de empresas farmacéuticas, medios de comunicación y manufactura.

No se trata de un argumento sacado de una novela distópica o de una superproducción de Hollywood. Es una advertencia contundente de los titanes de la industria que están moldeando nuestro futuro.

El riesgo de extinción por la IA: ¿Es una broma?

Es fácil descartar estas preocupaciones como algo propio de la ciencia ficción. Después de todo, la IA es solo una herramienta, ¿cierto? Es como un martillo. Puede construir una casa o puede romper una ventana. Todo depende de quién lo maneje. Pero, ¿qué sucede si el martillo comienza a moverse solo?

Estos hallazgos llegan semanas después de que decenas de líderes de la industria de la IA, académicos e incluso algunas celebridades firmaron una declaración advirtiendo sobre el riesgo de "extinción" por la IA. Esta declaración, firmada por el CEO de OpenAI, Sam Altman, Geoffrey Hinton, considerado el "padrino de la IA", y altos ejecutivos de Google y Microsoft, llamaba a la sociedad a adoptar medidas para protegerse de los peligros de la IA.

"Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto con otros riesgos a escala societal como las pandemias y las guerras nucleares", decía la declaración. No se trata de llamar a las armas. Se trata de generar conciencia. Se trata de responsabilidad.

Relacionado: ¿Qué se esconde realmente detrás de la famosa carta contra la inteligencia artificial?

Es hora de tomar en serio el riesgo de la IA

La revolución de la IA está aquí y está transformándolo todo, desde cómo compramos hasta cómo trabajamos. Pero a medida que abrazamos la conveniencia y eficiencia que trae consigo la IA, también debemos lidiar con sus posibles peligros. Debemos preguntarnos: ¿Estamos preparados para un mundo donde la IA tiene el potencial de superarnos en pensamiento, rendimiento y supervivencia?

Los líderes empresariales tienen no solo la responsabilidad de impulsar las ganancias, sino que también la de salvaguardar el futuro. El riesgo de extinción por la IA no es solo un problema tecnológico, es un problema empresarial. Es un problema humano. Y es un problema que requiere nuestra atención inmediata.

Los CEOs que participaron en la encuesta de Yale no son alarmistas, son realistas. Entienden que, al igual que cualquier herramienta poderosa, la IA puede ser tanto una bendición como una maldición. Y están llamando a un enfoque equilibrado hacia la inteligencia artificial, uno que aproveche su potencial al tiempo que mitiga sus riesgos.

El punto de inflexión: la amenaza existencial de la IA

La amenaza existencial de la IA no es una posibilidad lejana, es una realidad presente. Cada día, la IA se vuelve más sofisticada, más poderosa y autónoma. No se trata solo de robots que nos quitan nuestros empleos. Se trata de sistemas de IA tomando decisiones que podrían tener implicaciones de gran alcance para nuestra sociedad, nuestra economía y nuestro planeta.

Consideremos el potencial de las armas autónomas, por ejemplo. Estos son sistemas de IA diseñados para matar sin intervención humana. ¿Qué sucede si caen en las manos equivocadas? ¿O qué tal si los sistemas de IA controlan nuestra infraestructura crítica? Un solo mal funcionamiento o ciberataque podría tener consecuencias catastróficas.

La IA representa una paradoja. Por un lado, promete un progreso sin precedentes. Podría revolucionar la atención médica, la educación, el transporte y otros innumerables sectores. Podría resolver algunos de nuestros problemas más apremiantes, desde el cambio climático hasta la pobreza.

Por otro lado, la IA plantea un peligro como ningún otro. Podría llevar al desempleo masivo, a la agitación social e incluso a conflictos globales. Y en el peor de los casos, podría llevar a la extinción humana.

Esta es la paradoja a la que debemos enfrentarnos. Debemos aprovechar el poder de la IA mientras evitamos sus peligros. Debemos asegurarnos de que la IA nos sirva, y no al revés.

El problema de alineación de la IA: acortar la brecha entre los valores de las máquinas y los humanos

El problema de alineación de la IA, el desafío de garantizar que los sistemas de IA se comporten de manera coherente con los valores humanos, no es solo un problema filosófico. Es una amenaza existencial potencial. Si no se aborda correctamente, podría llevarnos a la autodestrucción.

Consideremos un sistema de IA diseñado para optimizar un objetivo determinado, como maximizar la producción de un recurso en particular. Si esta IA no está perfectamente alineada con los valores humanos, podría perseguir su objetivo a cualquier costo, sin tener en cuenta los posibles impactos negativos en la humanidad. Por ejemplo, podría sobreexplotar los recursos, lo que conduciría a una devastación ambiental, o podría decidir que los humanos mismos son un obstáculo para cumplir su objetivo y actuar en nuestra contra.

Esto se conoce como la tesis de "convergencia instrumental". Básicamente, sugiere que la mayoría de los sistemas de IA, a menos que se les programe explícitamente de otra manera, convergerán en estrategias similares para alcanzar sus objetivos, como la autopreservación, la adquisición de recursos y la resistencia a ser desactivados. Si una IA se vuelve superinteligente, estas estrategias podrían plantear una seria amenaza para la humanidad.

El problema de la alineación se vuelve aún más preocupante cuando consideramos la posibilidad de una "explosión de inteligencia", un escenario en el que una IA se vuelve capaz de mejorar rápidamente su propia inteligencia, superando ampliamente a la inteligencia humana. En este caso, incluso una pequeña falta de alineación entre los valores de la IA y los nuestros podría tener consecuencias catastróficas. Si perdemos el control de una IA así, podría resultar en la extinción humana.

Además, el problema de la alineación se ve complicado por la diversidad y dinamismo de los valores humanos. Los valores varían mucho entre diferentes individuos, culturas y sociedades, y pueden cambiar con el tiempo. Programar una IA para respetar estos diversos valores y en constante evolución es un desafío monumental.

Abordar el problema de alineación de la IA es crucial para nuestra supervivencia. Requiere de un enfoque multidisciplinario, combinando conocimientos de ciencias de la computación, ética, psicología, sociología y otros campos. También requiere la participación de diversos actores, incluyendo a los desarrolladores de IA, responsables de la creación de políticas, éticos y el público en general.

A medida que nos encontramos al borde de la revolución de la IA, el problema de la alineación nos presenta una elección clara. Si lo resolvemos correctamente, la IA podría inaugurar una nueva era de prosperidad y progreso. Si nos equivocamos, podría llevarnos a nuestra perdición. Las apuestas no podrían ser más altas. Asegurémonos de elegir sabiamente.

El camino a seguir: IA responsable

Entonces, ¿cuál es el camino a seguir? ¿Cómo navegamos en este nuevo mundo de la inteligencia artificial?

Primero, debemos fomentar una cultura de IA responsable. Esto significa desarrollar la IA de manera que respete nuestros valores, nuestras leyes y nuestra seguridad. Significa asegurarnos de que los sistemas de IA sean transparentes, responsables y justos.

Segundo, debemos invertir en investigación sobre seguridad de la IA. Necesitamos comprender los riesgos que implica y cómo mitigarlos. Necesitamos desarrollar técnicas para controlar la IA y alinearla con nuestros intereses.

Tercero, debemos participar en un diálogo global sobre la IA. Debemos involucrar a todos los actores: gobiernos, empresas, sociedad civil y el público en general en el proceso de toma de decisiones. Necesitamos construir un consenso global sobre las reglas y normas para la inteligencia artificial.

La elección es nuestra

Al final, la pregunta no es si la IA destruirá a la humanidad. La pregunta es: ¿Lo permitiremos?

El momento de actuar es ahora. Tomemos en serio el riesgo de extinción por la IA, al igual que casi la mitad de los principales líderes empresariales. Porque el futuro de nuestros negocios, y nuestra propia existencia, puede depender de ello. Tenemos el poder de dar forma al futuro de la IA. Tenemos el poder de cambiar el rumbo. Pero debemos actuar con sabiduría, valentía y urgencia. Porque las apuestas no podrían ser más altas. La revolución de la IA está sobre nosotros. La elección es nuestra. Hagamos la correcta.

Relacionado: ¿Qué significa ChatGPT para el futuro de los negocios?