La IA transcribe y traduce textos ¿a cambio de nada?

En el mundo de la IA, las grandes empresas nos siguen prometiendo ventajas aparentemete a cambio de nada. Tal como sucede con Whisper v3, el sistema de reconocimiento de voz de OpenAI. Transcribe  audio a texto de modo preciso y a gran velocidad. Su eficiencia es indiscutible, y supera a aplicaciones de transcripción como 

La aplicación es capaz de traducir  decenas de idiomas, se adapta a distintos acentos e incluso disminuye el ruido de fondo. Su utilización puede ser verdaderamente útil en ámbitos educativos y en accesibilidad para personas con discapacidades auditivas.

Al contrario de lo que sucede con ChatGPT o DALL-E, Whisper es una herramienta open source, característica que ha sido aplaudida por algunos sectores (periodistas, archivos, etc) y criticada por traductores y transcriptores profesionales. 

Lo que está claro, porque Open AI a preferido difundirlo de tapadillo es cómo ha sido entrenada: se han utilizado más de un millón de horas de audio etiquetado y cuatro millones de horas de audio pseudo etiquetado. Igual que hace su competencia, no nos engañemos (Google, Meta, etc.)

Detrás de estas promesas, surgen cuestiones de cómo ¿se protege la privacidad de los usuarios?, o ¿qué uso se hace de las conversaciones transcritas?

OpenAI no ha sido completamente transparente sobre cómo almacena y utiliza estos datos de audio. Aunque se compromete a la seguridad, el nivel de filtraciones y hackeos en grandes empresas de tecnología, nos recuerda que ninguna base de datos está completamente segura. Sin políticas claras sobre la protección de la privacidad y el almacenamiento de datos, es difícil confiar plenamente en una herramienta como esta.

1. ¿Nos vigilamos (más) entre nosotros para que ganen "ellos"?

Whisper y sistemas similares también plantean preguntas sobre el uso de la inteligencia artificial para la vigilancia. Imaginemos un escenario donde esta tecnología esté disponible para gobiernos y empresas con intereses cuestionables. La capacidad de registrar y analizar conversaciones en tiempo real podría convertirse en una herramienta de control sin precedentes, donde la privacidad y la libertad de expresión queden seriamente comprometidas.

El desarrollo de este tipo de aplicaciones es un claro ejemplo de cómo la tecnología avanza hacia una amplia multimodalidad y accesibilidad, Si OpenAI, o cualquier otra empresa del sector quisiera  consolidarse como líder en el ámbito de la inteligencia artificial ética, debe acatar los avances sobre la gestión y protección de los datos de los usuarios que intentan aplicarse en Europa.

Como usuarios y consumidores, debemos ser críticos y cuestionar hasta qué punto estamos dispuestos a ceder nuestra privacidad a cambio de la comodidad y de la inmediatez en los resultados. 

2. Autocrítica y exigencia

La inteligencia artificial debe avanzar, sí, pero no a costa de nuestros derechos. La sociedad merece una tecnología transparente, ética y diseñada para servir a las personas, no para vigilarlas o manipularlas. Whisper, como otros desarrollos de IA, está en el centro de este debate, pero depende de la ciudadanía exigir respuestas claras y compromisos sólidos sobre su uso responsable.

Imagen: Ave Calver (Unsplash)