El algoritmo de Berk predeciría quien podría derivar en un delincuente

Algoritmo de berk - Artech Digital
Escrito por:
Compartir

A los doce años Gustav Baumeister tras varias visitas a la oficina del “Principal”, escuchó sobre el algoritmo de Berk. “Es un software que hace emocionalmente más fácil mi trabajo”, dijo con mirada de satisfacción el director. “Cada travesura que haces se registra en el sistema, y la máquina tendrán en algún momento control de tu futuro”.

El jovencito Gustav se mostró incrédulo. En su cabeza no se dibujaba el sistema de códigos que desde hace 5 años lo perseguía. Estaba a punto de salir de la Eliot Elementary School de Boston.

La tarde estaba fresca cuando tomó su bicicleta. Pedaleó lentamente sobre Charter Street empujando una nube negra frente al manubrio.

Detuvo el paseo en Copp’s Hill Terrace, el mejor lugar para repasar cuantas veces haló de los cabellos a Noreen en quinto grado. Miró hacia la copa de los árboles y no halló respuestas. No sabía de dónde provenía esa necesidad de portarse mal. Sin dudas era una rabia escondida, pero escalofriantemente estaba bajo la mirada del algoritmo de Berk.

Sacó de su mochila una tablet y le preguntó a Google quien había inventado la escuela. El jovencito estaba convencido que todo lo malo de su vida provenía de allí. Un vistazo rápido lo condujo al nombre de Hugh Balsham, “una peste que nació en Reino Unido en 1284”.

No paró de pensar. “La inventaron en Cambridge y en vez de traer más agua desde Inglaterra usaron parte de las bodegas del Mayflowers para traerse esa idea de la escuela”.

El ojo de Dios y el algoritmo de Berk 

Al término del próximo otoño el preadolescente Gustav Baumeister se miraba a sí mismo en Clarence R. Edwards Middle School. Allí llegaría según su bitácora. Sin embargo las palabras del director agitaron el follaje en el parque: ¡Tal vez, Gustav, tal vez, recuerda que estás en camino de ser un fraude!

“¿Y quién es ese tal Berk?”. La pregunta llegó cuando la tarde corría con un color venado en el horizonte. Gustav apeló de nuevo al buscador.

Algoritmo de berk - Artech Digital

Richard Berk, el creador del algoritmo de Berk, es un profesor de Criminología y Estadística de la Universidad de Pensilvania. Hace cinco años desarrolló los códigos que varios estados del Departamento de Justicia en la Unión usan para llevar los registros de adolescentes problemáticos y las normas de los procesados con beneficio de libertad condicional.

Gustav apeló a su smartphone e hizo touch sobre el Nick “pink hat haker”.

-¡Hola Sharon!…

-Estoy ocupada…

-¡Rápido, rápido! ¿qué es un algoritmo predictivo?

-Gustav no molestes … el aparato que usas para hablar conmigo justo ahora está lleno de algoritmos predictivos, Whatsapp, Facebook, TikTok, Snapchat, son software de control que nadie nos obligó a usar y que pedimos poseer con lágrimas y hasta con gritos, adiós!!!

La mente creadora

El muchacho pensó en el algoritmo de Berk como una abominación. Solo una mente de la Ivy League era capaz de crear una cosa tan siniestra. Otro dato que encontró Gustav en línea fue que casi todos los estados de Estados Unidos han recurrido a este nuevo tipo de algoritmo de gobierno, según leyó en fuente del Centro de Información de Privacidad Electrónica, una organización sin fines de lucro dedicada a los derechos digitales.

“¡Desde luego es una conspiración!”.  El muchacho tomó raudo su bicicleta y tomó rumbo a su casa. Una extraña sensación lo allanó. Dejó de pedalear y miró al cielo y pensó si alguien del Departamento de Justicia lo miraba desde arriba.

Angustiado y apegado a sus recuerdos, pensó que su futuro estaba en un acto criminal. No se veía en una acción mayor. Pensó que sería apresado por recurrentemente alterar el orden público y que su vida transitaría los avatares de un procesado en libertad condicional.

Al llegar a su caso trató de averiguar si la sociedad estaba contenta con el uso del algoritmo de Berk. Constató que muchos están enojados por la creciente dependencia de los sistemas automatizados. Los algoritmos están sacando a los humanos y la transparencia del proceso judicial. A menudo no está claro cómo los sistemas están tomando sus decisiones. ¿Es el género un factor? ¿La edad? ¿Código postal? Es difícil de decir, ya que muchos estados y países tienen pocas reglas que requieren que los fabricantes de algoritmos revelen sus fórmulas.

¡Aleluya dijo Gustav y gritó, vivan los derechos civiles! De acuerdo a un comentario marginal que encontró en el NYT, se supone que los algoritmos deben reducir la carga de las agencias con poco personal. Los softwares buscan recortar los costos del gobierno y eliminar el sesgo humano.

Sin embargo los opositores dicen que los gobiernos no han mostrado mucho interés en aprender lo que significa sacar a los humanos de la toma de decisiones. Un reciente informe de las Naciones Unidas advirtió que los gobiernos se arriesgaron a «tropezar como zombies en una distopía de bienestar digital».

Y si llego a libertad condicional

Gustav Baumeister con 12 años se miró al espejo. Se dijo a sí mismo: Estoy molesto con el mundo. Las palabras fueron un decreto que lo colocó con su imaginación saliendo de la penitenciaría. No era difícil, cientos de películas que había visto a lo largo de su vida comenzaban con un hombre a la salida de la cárcel.

Al fin y al cabo los algoritmos de predicción, en su forma más básica, funcionan usando datos históricos para calcular la probabilidad de eventos futuros, de manera similar a como un libro de deportes determina las probabilidades de un juego o los encuestadores pronostican un resultado electoral.

La tecnología se basa en técnicas estadísticas que se han utilizado durante décadas, a menudo para determinar el riesgo. Se han sobrecargado gracias a los aumentos en la potencia de computación asequible y los datos disponibles.

Ya en la calle se planteo ir a buscar a Richard Berk en la Universidad de Pensilvania para que le explicara todo sobre el algoritmo. En la ensoñación encontró al profesor Berk, en un monólogo en el dijo que el diseño original no era para ser utilizado de esta manera.

«Una de las cosas que dejo muy claro sobre este algoritmo – y todos los demás – es que están hechos a mano para una decisión particular», dijo. «Si los mueves a otra decisión, la garantía ya no se aplica».

El doctor Berk miró a los ojos de un Gustav Baumeister más grande. Lo encaró. «Toda esta controversia se desvanecerá a medida que los algoritmos sean usados más ampliamente».

Finalmente comparó los algoritmos con los sistemas de piloto automático de los aviones comerciales. «El piloto automático es un algoritmo», dijo. «Hemos aprendido que el piloto automático es fiable, más fiable que un piloto humano individual. Lo mismo va a pasar aquí».

This post is also available in: enEnglish (Inglés)


Gustavo Rízquez es un divulgador de temas de tecnología, colaborador para Artech Digital y copywriter en varios medios internacionales. Está centrado en abordar desde el punto de vista de la escritura creativa, ucronías vinculadas con Inteligencia Artificial, robótica, criptomonedas, IoT y TI. Gustavo Rízquez is a disseminator of technology issues, a collaborator for Artech Digital and a copywriter for several international media. He is focused on addressing, from the point of view of creative writing, ucronies linked to Artificial Intelligence, robotics, crypto-money, IoT and IT.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

SpainUSA