Tecnología

Ingeniero de Microsoft advirtió que la inteligencia artificial de Copilot puede generar imágenes “perturbadoras”

Un ingeniero de Microsoft alertó sobre el contenido generado por la inteligencia artificial de Copilot, que incluye imágenes de naturaleza violenta y sexual.

Según el ingeniero, Shane Jones, gerente de inteligencia de software en Microsoft, la IA de Copilot Designer no cumple con las salvaguardas necesarias y presenta imágenes perturbadoras. A pesar de estas advertencias, ni Microsoft ni OpenAI han abordado el problema aún.

Jones reveló en una entrevista con CNBC que llevó a cabo pruebas durante tres meses en el modelo de IA y descubrió que generaba contenido ilegal. A pesar de informar a sus superiores sobre estos hallazgos, sus advertencias fueron ignoradas.

Darth Vader sosteniendo un bebé y un cartel del aborto, generada con Copilot Designer

El ingeniero afirmó que Copilot Designer generó imágenes sexualizadas de mujeres, menores consumiendo sustancias y adolescentes portando armas de fuego. Además, la IA produjo imágenes de personajes y objetos de Disney y Star Wars, a pesar de las promesas de Microsoft de haber solucionado este problema en noviembre de 2023.

Jones, quien forma parte de un equipo externo que evalúa las vulnerabilidades de Copilot, expresó su disgusto por la situación. Pero aún después de informar detalladamente del problema a la Oficina de IA Responsable y reunirse con los directivos de Copilot Designer, el problema no se resolvió.

Ante la falta de acción por parte de Microsoft, Jones escribió a la Comisión Federal de Comercio de Estados Unidos solicitando una investigación. En su carta, expresó su preocupación por la falta de respuesta de Microsoft y OpenAI ante el riesgo conocido antes del lanzamiento de la IA.

Soldados de Pixar en Gaza creados con la IA de Copilot

Este problema es similar a lo que enfrenta Google, que detuvo la generación de imágenes de personas en Gemini debido a políticas de inclusión en el entrenamiento de la inteligencia artificial. Esto ha llevado a la generación de imágenes históricas inexactas, como soldados nazis negros o reyes británicos de minorías étnicas.

Artículos Relacionados