TikTok y un super poder: darte lo que estás buscando en ese preciso monento.

Hay cuatro objetivos principales para el algoritmo de TikTok: 用 想 得, 用 想 得 ( 长 长 ), 作 手 , y 平台 , que la compañía traduce como “ valor de usuario, ” “ largo plazo valor de usuario,” “ valor del creador, ” y “ valor de plataforma. ”

Ese conjunto de objetivos se extrae de un documento franco y revelador para los empleados de la compañía que ofrece nuevos detalles de cómo la aplicación de video más exitosa del mundo ha construido una — tan entretenida algunos dirían que adictivo — producto.

El documento, encabezado “TikTok Algo 101,” fue producido por el equipo de ingeniería de TikTokoks en Beijing. Una portavoz de la compañía, Hilary McQuaide, confirmó su autenticidad y dijo que fue escrito para explicar a los empleados no técnicos cómo funciona el algoritmo. El documento ofrece un nuevo nivel de detalle sobre la aplicación de vídeo dominante, proporcionando una visión reveladora tanto del núcleo matemático de las aplicaciones como de la comprensión de la comprensión de la naturaleza humana de los compañías — nuestras tendencias hacia el aburrimiento, nuestra sensibilidad a las señales culturales — que ayudan a explicar por qué es tan difícil de dejar. El documento también levanta el telón de la conexión perfecta de la compañía con su empresa matriz china, ByteDance, en un momento en que Estados Unidos. El Departamento de Comercio está preparando un informe sobre si TikTok representa un riesgo de seguridad para los Estados Unidos.

Si estás entre los mil millones de personas (literalmente!) quienes pasan tiempo en TikTok todos los meses, está familiarizado con la aplicación como vehículo central de 2021’ para la cultura juvenil y la cultura en línea en general. Muestra un flujo interminable de videos y, a diferencia de las aplicaciones de redes sociales que está desplazando cada vez más, sirve más como entretenimiento que como una conexión con amigos.

Tuvo éxito donde otras aplicaciones de videos cortos fallaron en parte porque hace que la creación sea tan fácil, dando a los usuarios música de fondo para bailar o memes para representar, en lugar de obligarlos a llenar el aire muerto. Y para muchos usuarios, que consumen sin crear, la aplicación es sorprendentemente buena para leer tus preferencias y dirigirte a uno de sus muchos “side, dijo,” si estás interesado en el socialismo o consejos de Excel o sexo, política conservadora o una celebridad específica. Es asombrosamente bueno revelar los deseos de las personas incluso a sí mismas — “El Algoritmo de TikTok Sabía Mi Sexualidad Mejor De Lo Que Yo Hice,” lee uno de una serie de titulares sobre personas que se maravillan con la radiografía de las aplicaciones de sus vidas internas.

TikTok ha compartido públicamente las líneas generales de su sistema de recomendación, diciendo que tiene en cuenta factores que incluyen me gusta y comentarios, así como información de video como subtítulos, sonidos y hashtags. Los analistas externos también han tratado de descifrar su código. A reciente informe del Wall Street Journal demostrado cómo TikTok depende en gran medida de cuánto tiempo pasas viendo cada video para dirigirte hacia más videos que te mantendrán desplazándote, y ese proceso a veces puede llevar a los espectadores jóvenes a las peligrosas madrigueras de conejos, en particular, hacia el contenido que promueve el suicidio o la autolesión — problemas que TikTok dice que está trabajando para detener mediante la eliminación agresiva de contenido que viola sus términos de servicio.

El nuevo documento fue compartido con The New York Times por una persona que estaba autorizada a leerlo, pero no a compartirlo, y que lo proporcionó bajo condición de anonimato. La persona fue perturbada por el impulso de las aplicaciones hacia el contenido de “sad” que podría inducir autolesiones.

El documento explica francamente que en la búsqueda de los compañeros “ último objetivo” de agregar usuarios activos diarios, ha optado por optimizar dos métricas estrechamente relacionadas en el flujo de videos que sirve: “retention” — es decir, si un usuario regresa — y “time spended.” La aplicación quiere mantenerte allí el mayor tiempo posible. La experiencia a veces se describe como una adicción, aunque también recuerda una crítica frecuente de la cultura pop. El dramaturgo David Mamet, escritura desdeñosamente en 1998 sobre “pseudoart,” observó que “personas se sienten atraídas por las películas de verano porque lo son no satisfactorio, y por lo tanto ofrecen oportunidades para repetir la compulsión.”

Para los analistas que creen que las recomendaciones algorítmicas representan una amenaza social, el documento de TikTok confirma sus sospechas.

“Este sistema significa que el tiempo de observación es clave. El algoritmo intenta que las personas se vuelvan adictas en lugar de darles lo que realmente quieren,” dijo Guillaume Chaslot, el fundador de Algo Transparency, un grupo con sede en París que ha estudiado el sistema de recomendación de YouTube y tiene una visión oscura del efecto del producto en los niños, en particular. El Sr. Chaslot revisó el documento de TikTok a petición mía.

“Creo que es una idea loca dejar que el algoritmo de TikTokoks dirija la vida de nuestros hijos,”, dijo. “Cada video que mira un niño, TikTok obtiene una información sobre él. En unas pocas horas, el algoritmo puede detectar sus gustos musicales, su atracción física, si se siente deprimido, si podría estar metido en drogas y mucha otra información confidencial. Existe un alto riesgo de que parte de esta información se use en su contra. Potencialmente podría usarse para microdirigirlo o hacerlo más adicto a la plataforma.”

El documento dice que el tiempo de reloj no es el único factor que TikTok considera. El documento ofrece una ecuación aproximada de cómo se califican los videos, en la que se resume una predicción impulsada por el aprendizaje automático y el comportamiento real del usuario para cada uno de los tres bits de datos: me gusta, comentarios y tiempo de reproducción, así como una indicación de que el video se ha reproducido:

Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay

“El sistema de recomendación da puntuaciones a todos los videos basados en esta ecuación, y devuelve a los usuarios videos con las puntuaciones más altas,” dice el documento. “Por brevedad, la ecuación que se muestra en este documento es altamente simplificada. La ecuación real en uso es mucho más complicada, pero la lógica detrás es la misma.”

El documento ilustra en detalle cómo la compañía ajusta su sistema para identificar y suprimir videos “like bait” — diseñados para jugar con el algoritmo al pedirle explícitamente a las personas que les gusten — y cómo la compañía piensa en preguntas más matizadas.

“Algunos autores pueden tener algunas referencias culturales en sus videos y los usuarios solo pueden entender mejor esas referencias viendo más de los videos de autor. Por lo tanto, el valor total de que un usuario vea todos esos videos es más alto que los valores de ver cada video agregado,” dice el documento. “Otro ejemplo: si a un usuario le gusta un cierto tipo de video, pero la aplicación continúa empujando el mismo tipo hacia él, rápidamente se aburriría y cerraría la aplicación. En este caso, el valor total creado por el usuario viendo el mismo tipo de videos es menor que el de ver cada video, porque la repetitividad conduce al aburrimiento.”

“Hay dos soluciones para este problema,” el documento continúa. “Haz algunas suposiciones y descompone el valor en la ecuación de valor. Por ejemplo, en términos de exposición repetida, podríamos agregar un valor ‘same_author_seen,’ y para el problema del aburrimiento, también podríamos agregar un valor negativo ‘same_tag_today.’ Otras soluciones además de la ecuación de valor también pueden funcionar, como la recomendación forzada en users’ para u feed y dispersión, etc. Por ejemplo, el problema del aburrimiento se puede resolver a través de la dispersión.”
Otro gráfico en el documento indica que “creator monetization” es uno de los objetivos de la compañía, una sugerencia de que TikTok puede favorecer los videos en parte si son lucrativos, no solo entretenidos.

Julian McAuley, profesor de informática en la Universidad de California en San Diego, quien también revisó el documento, dijo en un correo electrónico que el documento tenía pocos detalles sobre cómo exactamente TikTok hace sus predicciones, pero que la descripción de su motor de recomendación es “totalmente razonable, pero tradicional stuff.” La ventaja de la compañía, dijo, proviene de combinar el aprendizaje automático con volúmenes de datos “fantastic, usuarios altamente comprometidos, y una configuración en la que los usuarios pueden consumir contenido recomendado algorítmicamente (¡piense en cuán pocas otras configuraciones tienen todas estas características!). No es algo de magia algorítmica.”

El Sr. McAuley agregó que estaba un poco perplejo acerca de por qué la gente siempre le preguntaba acerca de TikTok.

“¿Parece haber alguna percepción (por parte de los medios? o el público?) que han descifrado algún código mágico para la recomendación, pero la mayoría de lo que he visto parece bastante normal,” escribió.

Y, de hecho, el documento hace mucho para desmitificar el tipo de sistema de recomendación que las compañías tecnológicas a menudo presentan como imposiblemente difícil de entender para los críticos y reguladores, pero eso generalmente se enfoca en características que cualquier usuario común puede entender. La cobertura de Journals de documentos filtrados de Facebook, por ejemplo, ilustró cómo la decisión de Facebook de dar más peso a los comentarios ayudó a difundir el contenido divisivo. Si bien los modelos pueden ser complejos, no hay nada intrínsecamente siniestro o incomprensible sobre el algoritmo de recomendación de TikTok descrito en el documento.

Pero el documento también deja en claro que TikTok no ha hecho nada para cortar sus lazos con su padre chino, ByteDance, cuya propiedad se convirtió en un foco espasmódico al final del presidente Donald J. La administración de Trump en 2020, cuando intentó forzar la venta de TikTok a una empresa estadounidense aliada con su administración, Oracle.

El documento de TikTok remite preguntas a un gerente de ingeniería cuya biografía de LinkedIn dice que trabaja tanto en TikTok como en la aplicación china similar de ByteDance, Douyin, ofreciendo una visión del elemento global restante de una industria tecnológica cada vez más dividida, el talento de la ingeniería. Según LinkedIn, el gerente de ingeniería asistió a la Universidad de Pekín, recibió una maestría en informática en la Universidad de Columbia y trabajó para Facebook durante dos años antes de llegar a ByteDance en Beijing en 2017. El documento está escrito en inglés claro, pero no nativo, y proviene de la perspectiva de la industria tecnológica china. No hace referencias, por ejemplo, a compañías estadounidenses rivales como Facebook y Google, pero incluye una discusión de “if Toutiao/Kuaishou/Weibo han hecho algo similar, podemos lanzar la misma estrategia que han hecho?”

El proceso de desarrollo de TikTokoks, dice el documento, está estrechamente entrelazado con el proceso de Douyininss. El documento en un momento dado remite a los empleados de TikTok al “Proceso de lanzamiento para la Estrategia de Recomendación de Douyin,” y enlaces a un documento interno de la compañía que dice que es el “mismo documento para TikTok y Douyin.”

Los empleados de TikTok también están profundamente entrelazados con el ecosistema de ByteDancerands. Utilizan un producto ByteDance llamado Lark, un sistema de comunicaciones internas corporativas como Slack, pero con características agresivas de gestión del rendimiento destinadas a obligar a los empleados a usar más el sistema. Hay, por ejemplo, un gráfico que le dice si ha realizado acciones — como abrir mensajes — más o menos que sus compañeros de trabajo, según las capturas de pantalla que me dieron.

La preocupación por la tecnología de consumo china es bipartidista en los Estados Unidos. La orden ejecutiva del presidente Trump que intentaba prohibir la aplicación en agosto de 2020 advirtió que la recopilación de “datos de TikTokoks amenaza con permitir que el Partido Comunista Chino acceda a la información personal y patentada de Americans’ El gobierno chino podría “construir expedientes de información personal para el chantaje y realizar espionaje corporativo,”, dijo. Esa prohibición se estancó en la corte y se desvaneció después de las elecciones presidenciales. El presidente Biden rescindió la orden ejecutiva, pero su administración entonces anunciado su propia investigación sobre las amenazas de seguridad planteadas por TikTok, con un alto funcionario de la administración no identificado contandoreporteros que China estaba “trabajando para aprovechar las tecnologías digitales y los datos estadounidenses de maneras que presentan riesgos inaceptables para la seguridad nacional

En una declaración enviada por correo electrónico, McQuaide dijo que “mientras hay algo común en el código, las aplicaciones TikTok y Douyin se ejecutan completamente por separado, en servidores separados, y ninguno de los códigos contiene datos de usuario.”

También dijo, “TikTok nunca ha proporcionado datos de usuarios al gobierno chino, ni lo haríamos si se lo pidieran.”

TikTok, cuyo director ejecutivo vive en Singapur, contrató a una serie de ejecutivos y expertos en seguridad estadounidenses y europeos bien conectados a medida que se intensificaba la presión política bajo Trump. Dice que no tiene sede formal. Ha tratado de calmar las preocupaciones estadounidenses almacenando datos de usuarios en los Estados Unidos, con una copia de seguridad en Singapur.

Las preocupaciones de seguridad de los gobiernos estadounidenses vienen en dos formas. El primero, como sugirió Trump en su orden ejecutiva, es si el vasto tesoro de datos que TikTok contiene — sobre los deseos sexuales privados de los fanáticos de la aplicación que podrían terminar convirtiéndose en funcionarios públicos estadounidenses, por ejemplo, — debe ser visto como un problema de seguridad nacional. No hay evidencia de que los datos se hayan utilizado de esa manera, y TikTok no es el único lugar donde los estadounidenses comparten detalles de sus vidas en las redes sociales. La segunda preocupación es si TikTok censura puestos políticamente delicados.

Un informe este año por Citizen Lab, la organización de vigilancia de ciberseguridad en Toronto, sugirió que ambas preocupaciones son, en el mejor de los casos, latentes: No encontró ninguna indicación de que TikTok estuviera censurando temas delicados o transmitiendo datos a China.

Pero los destellos de TikTokay de las vidas internas de las personas son inusuales. Otra captura de pantalla compartida conmigo indica que sus moderadores de contenido tienen acceso no solo a videos publicados públicamente, sino también a contenido enviado a amigos o cargado en el sistema pero no compartido, una diferencia con aplicaciones como WhatsApp y Signal que proporcionan cifrado de extremo a extremo.

La segunda pregunta es si el gobierno chino podría usar la plataforma para difundir propaganda. Después de conseguir atrapado censurando un video que condena la detención masiva de musulmanes minoritarios en China, TikTok ha permitido criticar al gobierno del país. Por ejemplo, el hashtag #whereispengshuai, una referencia a la estrella del tenis chino que acusó a un líder chino de agresión sexual, autocompleta en el sistema, aunque los videos de TikTok con ese hashtag tienen pocas vistas. No hay una forma independiente de saber si la compañía está suprimiendo la búsqueda, que tiene mucho más participación en Twitter pero también poco en Instagram.

Algunos analistas estadounidenses ven a TikTok como una profunda amenaza; otros lo ven como el tipo de pánico despistado que los estadounidenses que ahora se acercan a la mediana edad enfrentaron cuando sus padres les advirtieron que si compartían detalles de sus vidas en las redes sociales, ellos nunca conseguirán un trabajo. Muchos, muchos otros productos, desde redes sociales hasta bancos y tarjetas de crédito, recopilan datos más precisos sobre sus usuarios. Si los servicios de seguridad extranjeros quisieran esos datos, probablemente podrían encontrar una manera de comprarlos a la sombría industria de los corredores de datos.

“Romperse sobre la vigilancia o la censura por parte de TikTok es una distracción del hecho de que estos problemas son mucho más grandes que cualquier empresa específica o su propiedad china,” dijo Samm Sacks, becario de política de ciberseguridad en la organización de investigación New America. “Incluso si TikTok fuera de propiedad estadounidense, no existe una ley o regulación que impida a Beijing comprar sus datos en el mercado de corredores de datos abiertos.”

Una cosa que me ha recordado al informar sobre esta columna: la amenaza que TikTok plantea a la seguridad nacional estadounidense parece ser completamente hipotética y depende de su análisis de ambos EE. UU.-La relación de China y el futuro de la tecnología y la cultura. Pero la comprensión del algoritmo sobre lo que me mantiene enganchado — entre los trucos de tenis, Los videos de comida turca y todas las demás cosas que se han descubierto que me gusta ver — representaron un peligro claro y presente para mi capacidad de terminar esta columna.