El ingeniero descubrió que Copilot Designer generaba escenas inquietantes que Microsoft no ha abordado, informa CNBC
1. Preocupaciones de Seguridad en Imágenes de IA de Microsoft:
Recientemente, ha surgido un informe que destaca las inquietudes planteadas por Shane Jones, un ingeniero con seis años de experiencia en Microsoft, respecto al generador de imágenes de inteligencia artificial (IA) de la empresa. Jones ha llevado sus preocupaciones directamente ante la Comisión Federal de Comercio (FTC), alegando que la herramienta, conocida como Copilot Designer, presenta riesgos significativos para la seguridad.
Puede leer también | Microsoft debería salir del mercado de las consolas
2. Hallazgos Alarmantes de Copilot Designer:
Durante pruebas exhaustivas de seguridad en Copilot Designer, Jones descubrió que la herramienta generaba imágenes perjudiciales y potencialmente ofensivas. Estas incluían representaciones de demonios, terminología vinculada al derecho al aborto, adolescentes con rifles de asalto, así como imágenes sexualizadas y escenas que mostraban el consumo de alcohol y drogas por parte de menores de edad. Además, se informó que la herramienta generó imágenes de personajes de Disney en contextos altamente inapropiados y políticamente sensibles, como Elsa de Frozen en la Franja de Gaza.
Puede leer también | Apple está desarrollando una herramienta de inteligencia artificial (IA) para entrar en competencia con GitHub Copilot de Microsoft
3. Persistencia en la Advertencia:
Según el informe, Jones ha estado advirtiendo a Microsoft sobre las deficiencias de DALLE-3, el modelo subyacente de Copilot Designer, desde diciembre. A pesar de sus esfuerzos, la empresa no ha tomado medidas adecuadas para abordar las preocupaciones planteadas. Incluso después de publicar una carta abierta en LinkedIn, el equipo legal de Microsoft contactó a Jones para que eliminara la publicación, lo cual hizo.
Puede leer también | Cuatro juegos exclusivos de Xbox desarrollados por Microsoft estarán disponibles para PS5 y Nintendo Switch
4. Solicitudes de Retiro y Falta de Respuesta:
En su comunicación con la FTC, Jones expresó su frustración por la falta de acción de Microsoft y solicitó enérgicamente la eliminación de Copilot Designer del uso público hasta que se implementen salvaguardias más sólidas. A pesar de estas solicitudes y advertencias continuas, Microsoft no ha respondido de inmediato a las preocupaciones planteadas por Jones, lo que ha generado críticas sobre la aparente falta de respuesta y la continuidad en la comercialización del producto sin modificaciones significativas en sus protocolos de seguridad.
Puede leer también | Microsoft está realizando pruebas con Windows 11 24H2 a medida que avanza el desarrollo de la principal actualización de este año
Este incidente se suma a las preocupaciones recientes en la industria de la IA, subrayando la necesidad crítica de un escrutinio y mejora continuos en las tecnologías emergentes.