La tecnología de inteligencia artificial que condenó a un criminal a cadena perpetua es cuestionada por falta de pruebas claras

La tecnología de inteligencia artificial que condenó a un criminal a cadena perpetua es cuestionada por falta de pruebas claras

En un caso que ha generado gran polémica en el ámbito judicial, la tecnología de inteligencia artificial utilizada para condenar a un delincuente a cadena perpetua está siendo cuestionada debido a la falta de pruebas claras. La sentencia ha generado un debate en torno a la fiabilidad de este tipo de tecnologías en la toma de decisiones judiciales. Expertos y defensores de los derechos humanos han manifestado su preocupación por la posibilidad de que la inteligencia artificial pueda influenciar negativamente en la justicia, llevando a condenas injustas. En este contexto, se vuelve necesario replantear el papel de la tecnología en la administración de justicia y garantizar que se tomen medidas para evitar cualquier tipo de parcialidad.

La tecnología de IA que condenó a un criminal sin pruebas claras: ¿es justa la justicia en el siglo XXI?

En el verano de 2020, un tiroteo en Ohio dejó un bebé fallecido y dos adultos heridos. La policía, con la idea de resolver el caso, recurrió a una herramienta llamada Cybercheck, una tecnología desarrollada por la empresa canadiense Global Intelligence. Esta herramienta prometía localizar sospechosos utilizando solo datos públicos disponibles en internet.

Cybercheck afirma poder rastrear la ubicación de una persona en tiempo real o en el pasado, utilizando más de 700 algoritmos que analizan las interacciones de su perfil cibernético con redes wifi y puntos de acceso. El fundador de Global Intelligence, Adam Mosher, asegura que el proceso es completamente automatizado y no requiere intervención humana.

Una capacidad de vigilancia sin precedentes

Si esto fuera cierto, se estaría hablando de una capacidad de vigilancia sin precedentes, al alcance de cualquier policía a nivel mundial, por tan solo 309 dólares por caso. Sin embargo, un análisis realizado por Wired ha puesto bastantes peros sobre la eficacia y la precisión de Cybercheck.

En varios casos, la herramienta fue incorrecta o imposible de verificar. Cybercheck no deja de expandirse entre la policía de EEUU pese a sus fallos.

Problemas de transparencia y veracidad

Se puede decir que esta herramienta cuenta con dos grandes problemas: falta de transparencia y veracidad. Por un lado, el sistema no conserva evidencias que respalden lo que ha encontrado. No registra de dónde obtiene los datos o cómo establece conexiones entre ellos.

Por otro, muchos expertos explican que es muy difícil que cierta información que aparece en los informes de Cybercheck pueda obtenerse solo de fuentes públicas. Por ejemplo, determinar cuándo un dispositivo específico se ha conectado a una red wifi normalmente requeriría acceso físico al dispositivo o a los registros de la red.

El caso de Ohio

Volviendo al caso de Ohio, Cybercheck creó un informe que supuestamente ubicaba al sospechoso, Phillip Mendoza, en la escena del crimen. Sin embargo, el abogado defensor descubrió que la herramienta había generado dos informes idénticos para fechas diferentes, ambos con una precisión del 93,13%.

A medida que más abogados comenzaron a poner en duda esta tecnología, los fiscales en varios estados empezaron a retirar los informes de Cybercheck como evidencia. En Ohio, la Fiscalía del Condado de Summit decidió no utilizarla en varios casos de asesinato. En Texas, los fiscales retiraron un informe a la mitad del proceso cuando se dieron cuenta de que no podían autenticar los datos.

El futuro de Cybercheck

Por ahora, el futuro de Cybercheck pende de un hilo. Mientras algunos departamentos de policía siguen utilizando la herramienta, otros la han abandonado. Lo que está claro es que la promesa de resolver crímenes con solo unos clics sigue siendo tentadora para muchos.

A pesar de todo esto, esta herramienta con inteligencia artificial se ha extendido rápidamente entre los departamentos policiales de Estados Unidos. La empresa ofrece pruebas gratuitas y se promociona a través del boca a boca entre departamentos. Muchas agencias, desesperadas por resolver casos difíciles, la están usando pese a sus fallos.

Etiquetas: Inteligencia artificial, Estados Unidos, Software, Ciberseguridad