Desaprendizaje Automático: Google desafía a la inteligencia artificial a olvidar Conforme la tecnología avanza y se apodera de más espacios, es necesario dotarla con la capacidad de olvidar algunas cosas para evitar la propagación de errores y proteger la privacidad de los usuarios.
Por Eduardo Scheffler Zawadzki Edited by Eduardo Scheffler Zawadzki
En medio del furor por la inteligencia artificial (IA), Google nos sorprende con un concurso que ha llamado la atención: el NeurIPS Unlearning Challenge, cuyo objetivo es promover que los modelos de lenguaje olviden algunas de las cosas que han aprendido.
La idea no es que herramientas de IA como ChatGPT, Bard o MidJourney olviden todo lo que saben, sino que los desarrolladores puedan crear algoritmos para eliminar la influencia que algunos conjuntos de datos utilizados en su entrenamiento pueden tener en los resultados que ofrecen.
Según la página oficial de la competencia, la IA tiene "implicaciones para la privacidad, ya que los modelos grandes (de lenguaje) tienden a memorizar detalles de su conjunto de entrenamiento. Específicamente, el campo se enfrenta a un desafío significativo para cumplir con las regulaciones de privacidad actuales, como el Reglamento General de Protección de Datos de la Unión Europea o la Ley de Protección de Información Personal y Documentos Electrónicos de Canadá, que establecen el 'derecho al olvido' para las personas".
Los participantes en el concurso trabajarán en un escenario hipotético en el que una herramienta de IA debe "olvidar" los rostros con los que fue entrenada para crear una herramienta capaz de predecir la edad de un usuario.
La página del concurso continúa: "El desaprendizaje automático es una herramienta poderosa que tiene el potencial de abordar una serie de problemas importantes. A medida que la investigación en esta área continúa, podemos esperar ver nuevos métodos que sean más eficientes, efectivos y éticos."
Google espera que, por medio del concurso, se despierte el interés hacia el desaprendizaje automático y exista una conciencia entre los desarrolladores de lo importante que resulta corregir errores o sesgos contenidos en los modelos que impulsan las herramientas de IA.
Si te interesa saber más en sobre el concurso, en esta liga puedes descargar el kit inicial para participar en él.
