Telegram atribuye su retiro de la App Store a un "extorsionador" que plantó contenido ilegal con IA

El fundador y CEO de Telegram, Pavel Durov, se ha manifestado acerca de los motivos de la breve retirada de la plataforma de mensajería en la App Store de Apple, afeando que los de Cupertino retirasen la aplicación de su tienda antes de ponerse en contacto con Telegram, y atribuyendo la culpa a un "extorsionador" que distribuyó "contenido ilegal modificado con Inteligencia Artificial (IA)".

La aplicación de mensajería Telegram desapareció de la App Store durante la madrugada del martes en varios países tras identificar la violación de ciertas directrices de la tienda de Apple, que prohíben distribuir material de abuso sexual infantil (CSAM, por sus siglas en inglés). No obstante, volvió a estar disponible en la tienda horas después, tras eliminar el contenido de inmediato y suspender al usuario que lo publicó.

Ahora, Pavel Durov ha querido matizar su versión de lo ocurrido a través de una publicación en su cuenta de X (antes Twitter), donde ha asegurado que el servicio fue objeto del ataque de un "extorsionador", el cual editó un mensaje antiguo de un chat grupal activo para mostrar "contenido ilegal modificado con IA" relacionado con CSAM.

Concretamente, este tipo de atacantes basan su estrategia en la "exigencia de un rescate a los propietarios de los grupos a cambio de no atacar a sus comunidades". Así, utilizan cuentas automatizadas para insertar contenido ilegal en grupos públicos y, después, lo denuncian directamente a Apple. Con ello, intentan provocar la eliminación de comunidades legítimas "cuyos administradores se negaron a pagar".

En este caso, al editar un mensaje antiguo del chat, "el contenido quedó oculto para los miembros del grupo, lo que impidió que lo vieran o lo reportaran" antes de que el extorsionador lo denunciara a Apple, afirma Durov en el comunicado.

Como resultado, Durov considera que "los extorsionadores han encontrado una forma de manipular a Apple para que reaccione exageradamente". Además, criticó que Apple retirara Telegram de la App Store antes de ponerse en contacto con la plataforma, lo que, según sus palabras, crea un "riesgo sistémico potencial" para cada aplicación que contenga contenido generado por usuarios.

No es la primera vez que Telegram y Durov afrontan preguntas sobre su responsabilidad por el contenido que publican los usuarios. Es uno de los peligros a los que se enfrentan las redes sociales, ya que incluso con herramientas de moderación, siempre están sujetas a que un actor malintencionado busque un resquicio para saltarse las medidas de seguridad.

"Telegram tiene una amplia experiencia identificando los trucos utilizados por grupos de denunciantes coordinados y protegiendo a las comunidades legítimas (incluso cuando hacerlo conlleva el riesgo de que nuestra propia aplicación sea eliminada temporalmente de la App Store). Otras plataformas podrían no estar igualmente preparadas", concluyó.