Los retos de la IA generativa en noticias y producción de contenido

La AI Generativa aún tiene miles de desafíos en la producción de contenido y en noticias para los broadcasters del mundo y particularmente en Latinoamérica, principalmente en torno a la protección de la propiedad intelectual, gestión de metadatos, parámetros éticos, y aplicaciones forenses.

Propiedad Intelectual
Elías Rodríguez, director general de Content Creation de TelevisaUnivision manifestó que la IA Generativa es un recurso que ya utilizan sin embargo, dijo, se debe tener todo el cuidado por la cuestión legal y de derechos “puede haber demandas de todo tipo, sobre todo al replicar a personas, en el caso de los flujos de producción y posproducción se puede utilizar sin problema, pero lo permitido y lo restringido es necesario no perderlo de vista”.

Uno de los escenarios más comunes es, usar una aplicación de procesamiento del lenguaje natural para obtener una transcripción de un locutor de video en vivo hablando sobre un tema, luego, a medida que ingresa ese audio o video en un sistema, puede mostrar los aspectos más destacados de un archivo y colocarlos en un mezclador de visión en tiempo real. Todo eso era un trabajo que requirió mucho esfuerzo y requirió mucha planificación previa y puesta en escena y ahora se puede se realiza automática.

Anthony Guarino, VP ejecutivo de Producción Global y Tecnología de Estudio de Paramount, dijo en un debate mediático “Uno de los principales riesgos de propiedad intelectual introducir nuestra propiedad intelectual en modelos públicos es algo problemático, porque entonces eso es parte del conjunto de capacitación de esos modelos públicos. Si bien puede ser uno entre un billón de puntos de datos en algunos casos, y en otros, puede representar una masa significativa de lo que finalmente se genera en el resultado final y se sintetiza en el resultado final. Ese es un problema para la propiedad intelectual y los propietarios de propiedad intelectual”.

El gran reto de los medios es entender los nuevos escenarios completamente, evitando que los empleados de los medios de comunicación y creativos de contenidos, simplemente salgan y adquieran herramientas públicas por su cuenta y luego cargan el contenido de un medio privado en ellas. Esto implica establecer pautas y políticas dentro de la empresa, por ello es importante establecer modelos privados o alguna forma híbridos de modelos privados para que al menos las aportaciones que van a los modelos para entrenarlos se mantengan privadas, y luego tal vez se complementan con los datos públicos después de eso, para crear el resultado final.

Implicaciones de utilizar herramientas abiertas de IA Generativa
Las directrices, las políticas, el control sobre los modelos de datos y, en cierto modo, el privatizarlos son limitaciones de un modelo formado de forma privada. El entendimiento común es que se necesitan algo así como 100 millones de puntos para entrenar un modelo de manera efectiva, la cuestión es ¿Cuántas bibliotecas de datos privadas tienen 100 millones de puntos de datos? Eso es algo que todos vamos a descubrir en los próximos meses.

Debate ético
El debate ético en torno a la AI Generativa y la propiedad intelectual apenas comienza, como lo demuestra un caso judicial actual en EE UU. Google ha sido objeto de una demanda colectiva que afirma que la extracción de datos por parte de la empresa para entrenar sistemas generativos de inteligencia artificial viola la privacidad y los derechos de propiedad de millones de personas. Google dijo al tribunal que la demanda podría potencialmente «dar un mazo no sólo a los servicios de Google sino a la idea misma de la IA generativa».

«Usar información disponible públicamente para aprender no es robar», dijo Google al tribunal. «Tampoco es una invasión de la privacidad, conversión, negligencia, competencia desleal o infracción de derechos de autor».

Departamento de Noticias e IA Generativa
Por su parte Enrique Calderón, CTO de Multimedios, considera que la IA Generativa para Noticias, se está aplicando en el grupo con el fin de aminorar la carga de trabajo editorial, dar más espacio al análisis humano y prevenir fake news utilizando una base de datos propia.

Calderón destacó que para la parte de medios se ha sofisticado la IA generativa de transcripción y se ha democratizado para utilizarlas con API y abriendo horizontes para la generación de noticias de manera más rápida: “Hay cosas que antes

no se podían hacer o se necesitaba de un gran departamento técnico, ahora podemos eficientar el proceso de obtención de datos de conferencias, podemos pedir resúmenes, datos y con ello el redactor se concentra en darle el ángulo periodístico”.

“Las conferencias del presidente de México duran tres horas, no podemos tener al reportero tres horas transcribiendo o investigando el mismo tema, este proceso editorial puede tardar horas o días, por ello las integraciones que tenemos de IA generativa son diversas enfocadas a estos procedimientos”.

¿Los medios necesitan un departamento forense para detectar imágenes y audios para evitar noticias fake?
De acuerdo con Nazly Borrero, Top Woman in Cibersecurity y consultora en Sidwell Consultores es fundamental que los medios de comunicación cuenten con un departamento dedicado a la identificación de contenido falso, incluyendo imágenes, videos y audios para identificar noticias falsas. “En la era digital actual, donde la desinformación puede propagarse rápidamente y causar daño significativo, la capacidad de verificar la autenticidad del contenido se vuelve crucial para mantener la integridad y la credibilidad de las noticias, lo que al final del día, será el valor agregado de los medios de comunicación establecidos y tradicionales”.

De acuerdo con la especialista, para llevar a cabo un rastreo forense de imágenes, videos y escritos y así identificar información falsa, se requieren varios enfoques y herramientas especializadas, además de la voluntad de invertir en ello:

• Verificación de Imágenes y Videos
• Análisis de Metadatos: Examinar los metadatos de las imágenes y videos para identificar la ubicación, la fecha y otros detalles que puedan ayudar a verificar su autenticidad.
• Búsqueda Inversa de Imágenes: Utilizar herramientas como Google Images, TinEye o herramientas forenses especializadas para buscar imágenes similares en línea y verificar si han sido manipuladas o tomadas fuera de contexto.
• Análisis de Manipulación Digital: Utilizar software forense avanzado para detectar signos de edición o manipulación en imágenes y videos.
• Rastreo Forense de Videos:
• Análisis de Marcos Clave: Revisar los fotogramas clave de un video para buscar inconsistencias visuales o señales de manipulación.
• Análisis de Audio: Examinar la pista de audio en busca de alteraciones o pistas que indiquen que el video ha sido editado.
• Verificación de Textos y Noticias:
• Investigación de Fuentes: Verificar la autenticidad de las fuentes citadas en un artículo o noticia.
• Fact-Checking: Utilizar bases de datos de verificación de hechos y herramientas de búsqueda para confirmar la veracidad de la información.
• Colaboración Interdisciplinaria: Es fundamental contar con un equipo interdisciplinario que incluya expertos en inteligencia artificial, forenses digitales, periodistas y especialistas en verificación de datos.
• Capacitación Continua: Mantener al equipo actualizado sobre las últimas tendencias en desinformación y técnicas de manipulación de contenido.Carmen Pizano