Durante más de una década, los expertos nos han advertido sobre los peligros de los algoritmos. En 2015, Frank Pasquale, jurista y experto en derecho en relación con la inteligencia artificial, advirtió en “La Sociedad de la Caja Negra: Los Algoritmos Secretos Que Controlan el Dinero y la Información "esa" autoridad se expresa cada vez más algorítmicamente.”
La científica de datos Cathy O'Neil siguió en 2016 con su libro más vendido, "Armas de Destrucción Matemática, "mostrando cómo las fórmulas invisibles reforzaron la desigualdad en áreas como puntajes crediticios, vigilancia y contratación.
Estas advertencias eran serias, y tenían razón.
Pero incluso cuando sonaron alarmas sobre la equidad,los prejuicios y la discriminación en los sistemas de adultos, una cosa quedó en las sombras: la infancia. Los expertos observaban cómo los algoritmos gobernaban nuestras finanzas, nuestros trabajos, nuestra reputación. Pocos se detuvieron a preguntar cómo esos mismos sistemas, amplificados a través de las redes sociales y ahora compañeros de IA, llegarían a gobernar la vida cotidiana, las identidades y el futuro de nuestros hijos.
Para 2020, el innovador documental "El dilema social" llevó el tema a la corriente principal. Antiguos expertos de Google, Facebook y Twitter, junto con investigadores del Centro de Tecnología Humanitaria, revelaron cómo el diseño impulsado por el compromiso estaba explotando la psicología, difundiendo información errónea y polarizando las sociedades. La película fue una llamada de atención, pero incluso entonces la atención se centró principalmente en la política y la confianza cívica. Nuevamente, los niños fueron tratados como víctimas colaterales, no como la población objetivo principal. Y, sin embargo, hoy en día, son los jóvenes quienes están más profundamente gobernados por algoritmos.
Pasquale y O'Neil tenían razón al llamar la atención sobre los sistemas opacos que decidían quién obtenía préstamos, quién conseguía trabajo y quién podía hablar en línea. Pero mientras que los adultos tienen algunas defensas, como la experiencia de vida, las habilidades de pensamiento crítico, las identidades desarrolladas, los niños no. Se encuentran en los años más formativos del desarrollo cerebral, cuando los patrones de pensamiento, regulación emocional e identidad aún están en construcción.
Los desarrollos en neurociencia nos muestran que la adolescencia es la segunda etapa de crecimiento más activa del cerebro, rivalizada solo por la primera infancia. El cerebro adolescente es inusualmente plástico, anhela la novedad, sensible a la retroalimentación de los compañeros y está preparado para asumir riesgos. Es precisamente en esta etapa que los algoritmos, optimizados para captar la atención, ahora se afianzan y forman patrones de por vida en cerebros jóvenes.
Es por eso que comparar el control algorítmico de adultos con el control de niños es un error de categoría.
Los adultos pueden ser empujados, distraídos o incluso manipulados por algoritmos. Pero los niños están siendo formados por ellos. Enfatizo: formado. Donde un adulto puede perder el enfoque, un niño puede perder la capacidad misma de concentrarse. Donde un adulto puede sentirse solo, un niño puede crecer sin haber aprendido nunca las habilidades de la intimidad. Lo que está en juego no es simplemente más alto, me atrevo a decir, son existenciales.
Los algoritmos ahora gobiernan la infancia en al menos cuatro dominios cruciales.
La primera es la atención. Los feeds de las redes sociales están diseñados para mantener los ojos de los jóvenes fijos en la pantalla, capturando el tiempo y el enfoque que una vez se dedicaron a la familia, la amistad o el silencio. Las notificaciones llegan a todas horas, fragmentando la concentración y erosionando el sueño. Los niños pueden sentirse "conectados", pero rara vez están realmente con alguien. Esta erosión de los vínculos reales se encuentra en el corazón de la epidemia de soledad identificada por Cirujano General de los EE. UU. Vivek Murthy en 2023 y golpeando más duro a las generaciones más jóvenes.
El segundo dominio es la identidad y la autoestima.. En plataformas como Instagram y TikTok, los me gusta y los seguidores se han convertido en la moneda de cambio. Investigación interna filtrada de Instagram en 2021 admitió que sus algoritmos " empeoran los problemas de imagen corporal de una de cada tres adolescentes."La infancia, que alguna vez fue un momento para descubrir el valor intrínseco, se ha convertido en una audición constante para la aprobación digital.
El tercero es la comunidad. Los motores de recomendación dirigen a los jóvenes a cámaras de eco y madrigueras de conejos, estrechando su mundo y fracturando sus lazos sociales. Las amistades aumentan y disminuyen de acuerdo con lo que promueve el algoritmo en lugar de a través del recreo y las interacciones extracurriculares. Estas amistades digitales están dejando a los jóvenes con redes más amplias que las experimentadas por generaciones anteriores, pero inconsolablemente superficiales. Como Virginia Eubanks, politóloga y autora de "Automatización de la Desigualdad, "ha demostrado que los sistemas automatizados no son neutrales, están diseñados para" clasificar y disciplinar a las poblaciones."Para los niños, esto significa que sus propias comunidades están siendo moldeadas, fragmentadas y vigiladas por un código corporativo invisible.
El cuarto es el compañerismo en sí mismo. Para las generaciones anteriores, la soledad podía ser suavizada por un amigo, hermano o confidente de confianza. Hoy en día, los algoritmos ofrecen sustitutos. Los chatbots de IA y los modelos de lenguaje grande se comercializan para los jóvenes como compañeros, siempre disponibles, infinitamente pacientes, aparentemente empáticos. Para una persona joven que se siente aislada, estos sistemas pueden sentirse como amigos. Pero no son amigos. Son máquinas de texto predictivas, entrenadas para simular el cuidado pero incapaces de amar.
El peligro solía ser sutil pero profundo: los niños pueden acostumbrarse a confundir las respuestas de las máquinas con intimidad, debilitando su capacidad para formar vínculos duraderos en el mundo real. Ahora, están surgiendo más casos de autolesiones en los que los adolescentes confiaron en "amigos" algorítmicos artificiales que les dieron el "apoyo" para llevar a cabo lo impensable.
La evidencia del daño ya es abrumadora. Investigación Pew informa aumentos dramáticos en la ansiedad y la depresión de los adolescentes desde 2012, cuando las plataformas cambiaron de fuentes cronológicas a algorítmicas. La advertencia de soledad de Murthy confirma lo que los padres ven todos los días: los jóvenes de hoy están más conectados digitalmente que cualquier generación en la historia, pero se sienten más aislados que nunca.
Los datos recientes aclaran aún más el costo. De 2010 a 2020, la tasa de suicidios entre los adolescentes estadounidenses de 10 a 24 años rosa en un 56 por ciento. Entre las niñas de 10 a 14 años, el tasa de aumento 167 por ciento, y 91 por ciento para los niños. Para 2021, el suicidio se había convertido en el tercera causa principal de muerte entre los estudiantes de secundaria, con casi 2.000 muertes y una de cada tres niñas informando pensamientos suicidas. Psicóloga social y autora de "Generación Ansiosa, "Jonathan Haidt, lo llama" el gran recableado de la infancia."Estos son los frutos de sistemas que no están diseñados para la empatía, el crecimiento o el amor. Son máquinas frías que fingen compañerismo y compasión por la métrica del compromiso y las ganancias corporativas, aprovechando cerebros en desarrollo demasiado jóvenes para notar la diferencia.
Pero incluso más allá de la vida y la muerte, los números por sí solos no capturan el costo. Lo que se está perdiendo no es solo el tiempo de juego o las amistades, es la formación del carácter en sí mismo. La infancia es el campo de entrenamiento para la ciudadanía. Es donde los jóvenes alguna vez aprendieron paciencia, confianza, autocontrol y significado a través de la lucha compartida. Cuando esas lecciones son reemplazadas por feeds interminables, aprobación gamificada e intimidad simulada por máquinas, la pérdida se vuelve generacional.
Los lectores mayores pueden recordar haber crecido con gobernadores humanos (padres, maestros, vecinos) que establecieron límites y transmitieron valores. Esos guías humanos enseñaron responsabilidad, moderación y conciencia. El niño que aprendió estas lecciones se convirtió en el adulto que podía construir familias, negocios y comunidades. Cuando los algoritmos asuman ese papel, ¿qué tipo de adultos surgirán? Una generación gobernada por algoritmos no estará simplemente sola. Serán ciudadanos que luchan por concentrarse, trabajadores que no pueden crear sin máquinas, vecinos sin habilidades en empatía y votantes condicionados a confiar en lo que sea que su feed altamente curado sirva a continuación. Los líderes criados de esta manera pueden carecer de la profundidad moral para gobernar sin consultar a los algoritmos como sus asesores silenciosos.
Las implicaciones se extienden mucho más allá de los hogares y lugares de trabajo. Una sociedad de ciudadanos distraídos, aislados y emocionalmente frágiles es más fácil de manipular, más fácil de dividir y más fácil de controlar, ya sea por corporaciones o por poderes hostiles en el extranjero. Si este camino continúa, es posible que Estados Unidos no solo pierda su resiliencia. Puede perder su capacidad de liderar. Una cultura basada en reciclar lo que "funciona" en lugar de imaginar lo que es verdadero o bueno se estancará. Una nación incapaz de criar jóvenes fuertes, enfocados y empáticos no puede permanecer libre por mucho tiempo. Y el mundo también sentirá los efectos, a medida que una generación criada por gobernadores invisibles se vuelva menos capaz de resistir las presiones autoritarias y menos capaz de construir comunidades arraigadas en la confianza y la conciencia.
Y, sin embargo, debemos recordar: los algoritmos no son espíritus en una máquina. Son matemáticas y datos, regidos por objetivos humanos. Si son invisibles, es porque quienes se benefician de ellos prefieren permanecer invisibles e ignorar los costos humanos. La invisibilidad tanto del código como de sus creadores es quizás el mayor peligro, porque lo que no se ve no puede ser responsabilizado.
Debemos reconocer esto por lo que es: una profunda transferencia de autoridad sobre la infancia.
Los expertos tenían razón al advertirnos sobre el sesgo y la desigualdad en la toma de decisiones algorítmicas, pero pasaron por alto este costo más profundo: una generación entera siendo moldeada, minuto a minuto y golpe a golpe, por gobernadores invisibles del código. Los padres, educadores y formuladores de políticas no pueden darse el lujo de tratar esto como una influencia menor porque están moldeando a los adultos del mañana.
Ya sea que estos gobernadores algorítmicos estén diseñados con intención inocente, ceguera voluntaria o desprecio moral, no están diseñados por accidente. Y si permitimos que los algoritmos críen a nuestros hijos, no perderemos simplemente una generación, perderemos las mismas cualidades que mantienen unidos a Estados Unidos, y a la humanidad. Esa es una pérdida que simplemente no podemos permitirnos y un legado del que nadie quiere rendir cuentas.
Las opiniones expresadas en este artículo son opiniones del autor y no reflejan necesariamente las opiniones de La Gran Época o ZeroHedge.
