La llamada de alerta
Imagina recibir una llamada de tu hermano diciendo que ha sido secuestrado y que necesita un rescate urgente. Pagas, solo para darte cuenta después de que estaba perfectamente bien y que todo fue una mentira de alta tecnología. Eso es exactamente lo que le pasó al abuelo de Tarini Padmanabhuni hace dos años. ¿El villano? Un deepfake generado por IA de la voz de su hermano. No se trató solo del dinero; el problema real fue que su abuelo no tenía forma alguna de saber si estaba hablando con un humano o un robot.
Análisis de la tecnología
Padmanabhuni fundó la startup DetectifAI, con sede en San Francisco, para asegurarse de que eso nunca te pase. Mientras otras compañías intentan resolver esto en la nube, DetectifAI hace las cosas distinto. En lugar de depender de grandes servidores que los fabricantes de teléfonos no pueden integrar fácilmente, están diseñando modelos de IA súper compactos que corren directamente dentro del sistema operativo de tu smartphone.
Piénsalo así: la detección actual es como intentar comprobar la autenticidad de una carta enviándola a una oficina central. DetectifAI pone el escáner dentro de tu teléfono para que pueda detectar deepfakes al instante durante llamadas o notas de voz, sin enviar tus datos de audio a ninguna parte. Es una vibra totalmente enfocada en la privacidad.
Por qué importa
Las estafas se están poniendo peligrosas, y mucho; el FBI dice que los estadounidenses perdieron casi 900 millones de dólares por fraudes impulsados por IA el año pasado, un aumento del 24% desde 2024. Los adultos mayores están siendo los más afectados. DetectifAI actualmente vende su software a fabricantes de teléfonos, esperando hacer de la detección de deepfakes una especificación estándar, algo así como la resolución de tu cámara. Ya procesan más de 100,000 llamadas al mes para instituciones financieras en la India para verificar a los hablantes. Lowkey, es una gran victoria para la seguridad en una era donde ni siquiera puedes confiar en tus propios oídos.
