Las grandes tecnológicas firman un acuerdo para vetar los contenidos falsos creados con IA Las gigantes de la industria se unen para combatir el contenido engañoso generado por herramientas de IA.

Las opiniones expresadas por los colaboradores de Entrepreneur son personales

Andriy Onufriyenko | Getty Images

Durante la semana pasada se llevó a cabo la Conferencia de Seguridad en Múnich, un evento que sirve para reunir a los principales actores de la industria tecnológica. Empresas como Google, Amazon, Meta, Microsoft, OpenAI, X y ByteDance dieron de qué hablar al firmar un acuerdo para frenar el contenido engañoso generado por inteligencia artificial.

La iniciativa estuvo liderada —paradójicamente— por OpenAI (quien al mismo tiempo es la principal propulsora de contenido fabricado con IA). Sam Altman, actual CEO de la compañía, se propuso luchar contra la desinformación durante las elecciones que se realizarán este 2024 en más de 50 países.

En el acuerdo, las compañías reconocen que el rápido avance de la inteligencia artificial estaba creando nuevas oportunidades y desafíos en los procesos democráticos. Ejemplos de esto último radican en la difusión de contenido engañoso, que podría "poner en peligro la integridad de los procesos electorales".

Las compañías centrarán especial atención en las imágenes, audios y videos que sean difundidos en las redes sociales y que estén fabricados con inteligencia artificial. Recientemente la cantante estadounidense Taylor Swift fue víctima de material explícito generado por inteligencia artificial generativa, por semanas rondaron en plataformas como X videos alterados de la cantante, allí el contenido fue reproducido más de 50 millones de veces, finalmente la cuenta que difundió el contenido terminó siendo suspendida.

Cabe resaltar que las tecnológicas no se comprometieron a prohibir o eliminar los deepfakes, pues en su lugar, mostraron los métodos para detectar y etiquetar el contenido fabricado por IA. Por ejemplo, la implementación de marcas de agua o la fácil filtración de este tipo de contenido a través de sus metadatos.

Relacionado: Los deepfakes acechan en 2024. Así es cómo abordar el creciente panorama de amenazas de la IA

El reto de enfrentar los desafíos de la IA

Nick Clegg, presidente de asuntos globales de Meta, dijo que la utilidad del acuerdo es la amplitud de las empresas que lo firman, y que además es indispensable contar con el apoyo de los usuarios: "Todo el mundo reconoce que ninguna empresa de tecnología, ningún gobierno, ninguna organización de la sociedad civil es capaz de hacer frente por sí sola a la llegada de esta tecnología y su posible uso nefasto".

El acuerdo de las 20 compañías se basa en intercambiar las mejores prácticas entre sí y comprometerse a reaccionar rápidamente ante la difusión de contenido engañoso generado por inteligencia artificial. Sin embargo, no han proporcionado detalles adicionales sobre cómo implementarán estas medidas ni han establecido un plan de acción concreto.

Como resultado, algunos críticos ya han descrito el acuerdo como impreciso y principalmente simbólico. Rachel Orey, directora del Proyecto Electoral del Centro de Política Bipartidista en Estados Unidos, comentó que "el lenguaje utilizado no es tan contundente como se esperaba" y señaló que "será voluntario, por lo que estaremos observando si lo cumplen".

Una de las principales elecciones que pone en alerta a todas las plataformas en internet son las presidenciales de Estados Unidos. De hecho, el año pasado el Partido Republicano difundió contenido generado por IA contra el presidente Joe Biden, candidato a la reelección. Además, en enero de este año, algunos residentes de New Hampshire recibieron una llamada automática con la voz de una persona que afirmaba ser Biden.

Anteriormente, otras compañías de la industria de la tecnología ya habían anunciado un acuerdo para establecer medidas especiales durante las elecciones. OpenAI, quien está detrás de tecnologías como ChatGPT, dijo que prohibiría a los políticos utilizar sus herramientas para fines politicos. TikTok también se sumó al llamado y dijo que crearía centros electorales para monitorear las publicaciones de su plataforma durante los dias de las elecciones.

Relacionado: ¿Ha lanzado Microsoft un creador de deepfakes?

Texto publicado originalmente en el sitio Geektime.

Iniciar un negocio

63 ideas de pequeños negocios para iniciar en 2025

Hemos elaborado una lista con las mejores y más rentables ideas de pequeños negocios para que los emprendedores las consideren en 2025.

Noticias

¿Qué pasa con TikTok? Te explicamos por qué la red social podría dejar de operar en Estados Unidos a partir del próximo domingo

La red social enfrenta una posible prohibición en Estados Unidos por preocupaciones de seguridad nacional. La medida obligaría a ByteDance a vender la plataforma a una empresa estadounidense o dejar de operar en el país, afectando a millones de usuarios y creadores de contenido.

Emprendedores

¿Sabías que puedes ganar dinero haciendo memes? Aquí te decimos cómo

Los memes parecen ser la moneda de nuestra generación, pero ¿sabías que también puedes ganar dinero creando memes virales?

Noticias

14 maneras fáciles de ganar dinero extra en casa

Un ingreso adicional se siente como ser rico si ya tienes un trabajo diario para cubrir las deudas.

Startups

Cómo iniciar un negocio de ropa: una guía paso a paso

Obtenga acceso a información privilegiada sobre las mejores prácticas de la industria en el campo de la moda y el comercio minorista.

Emprendedores

25 frases inspiradoras para iniciar el 2025

Con cada desafío, hay una lección por aprender. Prepárate para enfrentar el año nuevo con estas 25 frases que te motivarán a crecer, a creer en ti mismo y a nunca rendirte.