"Ya está aquí . Afortunadamente, existen numerosas razones para ser optimistas sobre la capacidad de la sociedad para identificar medios falsos y mantener una comprensión compartida de los acontecimientos actuales."
No tenemos que imaginar un mundo donde los deepfakes puedan imitar de manera tan creíble las voces de los políticos que puedan usarse para provocar escándalos que podrían influir en las elecciones.
Si bien tenemos motivos para creer que el futuro puede ser seguro, nos preocupa que el pasado no lo sea.
La historia puede ser una herramienta poderosa para la manipulación y la malversación. La misma IA generativa que puede falsificar eventos actuales también puede falsificar acontecimientos pasados. Si bien el contenido nuevo puede protegerse a través de sistemas integrados, existe un mundo de contenido que no tiene marca de agua, lo que se logra agregando información imperceptible a un archivo digital para que se pueda rastrear su procedencia. Una vez que las marcas de agua en el momento de la creación se generalicen y la gente se adapte a desconfiar del contenido que no tiene marcas de agua, entonces todo lo producido antes de ese momento podrá ser cuestionado mucho más fácilmente. Y esto creará un tesoro de oportunidades para respaldar afirmaciones falsas con documentos generados, desde fotografías que colocan a personajes históricos en situaciones comprometedoras hasta la alteración de historias individuales en periódicos históricos y el cambio de nombres en títulos de propiedad. Si bien todas estas técnicas se han utilizado antes, contrarrestarlas es mucho más difícil cuando el costo de crear falsificaciones casi perfectas se ha reducido radicalmente.
- Puede leer también | Inteligencia Artificial (IA): La Selección Exclusiva de Warren Buffett y Cathie Wood en el Mundo Financiero hasta el 2024.
Este pronóstico se basa en la historia. Hay muchos ejemplos de cómo los poderes económicos y políticos manipularon el registro histórico para sus propios fines. Stalin purgó de la historia a los camaradas desleales ejecutándolos y luego alterando registros fotográficos para que pareciera como si nunca hubieran existido. Eslovenia, al convertirse en país independiente en 1992, “ borró ” a más de 18.000 personas del registro de residentes, principalmente miembros de la minoría romaní y otras etnias no eslovenas. En muchos casos, el gobierno destruyó sus registros físicos, lo que provocó la pérdida de sus hogares, pensiones y acceso a otros servicios, según un informe de 2003 del Comisionado de Derechos Humanos del Consejo de Europa .
Los documentos falsos son una parte clave de muchos esfuerzos por reescribir el registro histórico. Los infames Protocolos de los Sabios de Sión , publicados por primera vez en un periódico ruso en 1903 , pretendían ser actas de una conspiración judía para controlar el mundo. Desacreditados por primera vez en agosto de 1921 , como una falsificación procedente de múltiples fuentes no relacionadas, los Protocolos ocuparon un lugar destacado en la propaganda nazi y se han utilizado durante mucho tiempo para justificar la violencia antisemita, incluida una cita en el artículo 32 del Pacto fundacional de Hamás en 1988 .
En 1924, la Carta de Zinoviev , supuestamente un comunicado secreto del jefe de la Internacional Comunista en Moscú al Partido Comunista de Gran Bretaña para movilizar apoyo para la normalización de las relaciones con la Unión Soviética , fue publicada por The Daily Mail cuatro días antes de una eleccion general. El escándalo resultante puede haberle costado las elecciones a los laboristas. El origen de la carta nunca ha sido probado, pero su autenticidad fue cuestionada en ese momento , y una investigación oficial en la década de 1990 concluyó que muy probablemente era obra de los rusos blancos, una facción política conservadora liderada en ese momento por emigrados rusos opuestos al régimen comunista. gobierno.
- Puede leer también | Inteligencia Artificial: Estrategias para Construir una Empresa Sólida y Rentable desde el Inicio.
Décadas más tarde, la Operación Infektion (una campaña de desinformación soviética) utilizó documentos falsificados para difundir la idea de que Estados Unidos había inventado el VIH, el virus que causa el SIDA, como arma biológica. Y en 2004, CBS News retiró una historia controvertida porque no pudo autenticar los documentos, que luego fueron desacreditados como falsificaciones , que ponía en duda el servicio anterior de George W. Bush, entonces presidente, en la Guardia Nacional Aérea de Texas. A medida que sea más fácil generar desinformación histórica y que explote el gran volumen de falsificaciones digitales, se presentará la oportunidad de remodelar la historia, o al menos de poner en duda nuestra comprensión actual de ella.
Las perspectivas de que los actores políticos utilicen la IA generativa para remodelar efectivamente la historia (sin mencionar que los estafadores creen documentos legales y registros de transacciones falsos) son aterradoras. Afortunadamente, las mismas empresas que crearon el riesgo han trazado un camino a seguir.
Al indexar una gran parte de los medios digitales del mundo para entrenar sus modelos, las empresas de IA han creado efectivamente sistemas y bases de datos que pronto contendrán todo el contenido grabado digitalmente de la humanidad, o al menos una aproximación significativa del mismo. Podrían empezar a trabajar hoy para registrar versiones con marcas de agua de estos documentos primarios, que incluyen archivos de periódicos y una amplia gama de otras fuentes , de modo que las falsificaciones posteriores sean detectables instantáneamente.
- Puede leer también | Especializada en inteligencia artificial Apple ha comprado Laserlike
Este trabajo enfrenta algunas barreras. El esfuerzo de las bibliotecas digitales de Google para escanear millones de libros de bibliotecas del mundo y hacerlos fácilmente accesibles en línea topó con límites de propiedad intelectual, haciendo que el archivo histórico fuera inviable para su propósito de hacer que estos textos puedan ser buscados por cualquier persona con una conexión a Internet. Esas mismas preocupaciones sobre la propiedad intelectual están haciendo que los creadores y las empresas se preocupen tanto por los datos de entrenamiento proporcionados a la IA generativa como por sus implicaciones cuando se utilizan para generar contenido.
Dada esta cargada historia, incluida la inversión fallida de Google en su proyecto de bibliotecas digitales, ¿quién dará un paso adelante y pagará por un esfuerzo masivo similar que crearía versiones inmutables de datos históricos? Tanto el gobierno como la industria tienen fuertes incentivos para hacerlo, y muchas de las preocupaciones de propiedad intelectual en torno a la provisión de un archivo en línea con capacidad de búsqueda no se aplican a la creación de versiones de documentos con marcas de agua y de tiempo, porque esas versiones no necesitan estar disponibles públicamente para servir a sus necesidades. objetivo. Se puede comparar un documento reclamado con el archivo grabado utilizando una transformación matemática del documento conocida como “hash”, la misma técnica que utiliza el Foro Global de Internet para la Lucha contra el Terrorismo para ayudar a las empresas a detectar contenido terrorista conocido.
Además de crear un bien público importante y proteger a los ciudadanos de los peligros que plantea la manipulación de narrativas históricas, la creación de registros verificados de documentos históricos puede resultar valiosa para las grandes empresas de inteligencia artificial. Una nueva investigación sugiere que cuando los modelos de IA se entrenan con datos generados por IA, su rendimiento se degrada rápidamente. Por lo tanto, puede ser fundamental separar lo que en realidad es parte del registro histórico de los “hechos” recién creados.
Preservar el pasado también significará preservar los datos de entrenamiento, las herramientas asociadas que operan en ellos e incluso el entorno en el que se ejecutaron las herramientas. Vint Cerf, uno de los primeros pioneros de Internet, ha llamado a este tipo de registro "Pergamino Digital", y nosotros lo necesitan para proteger el entorno de información.
- Puede leer también | Samsung Galaxy S24: Perspectiva Realista sobre la Inteligencia Artificial.
Esta vitela será una herramienta poderosa. Puede ayudar a las empresas a construir mejores modelos, permitiéndoles analizar qué datos incluir para obtener el mejor contenido y ayudar a los reguladores a auditar el sesgo y el contenido dañino en los modelos. Los gigantes tecnológicos ya están realizando esfuerzos similares para registrar el nuevo contenido que crean sus modelos, en parte porque necesitan entrenar sus modelos con texto generado por humanos, y los datos producidos después de la adopción de grandes modelos de lenguaje pueden estar contaminados con el contenido generado.
Ha llegado el momento de extender este esfuerzo también hacia atrás en el tiempo, antes de que nuestra política también quede gravemente distorsionada por la historia generada.