Estamos acostumbrados a vivir entre dispositivos electrónicos en nuestro hogar, y a los teléfonos móviles que nos acompañan vayamos a donde vayamos, también tenemos una serie de electrodomésticos inteligentes en nuestro hogar que no paran de recopilar datos, como puede ser una nevera inteligente o incluso ese robot aspirador que tanto nos facilita la vida.
Y una de las historias más polémicas referidas al tratamiento de datos recogidos por un dispositivo de este calibre, en concreto por un robot aspirador, sucedió a finales de 2020, donde unas imágenes captadas por un conocido robot aspirador acabaron en foros privados de Facebook en Venezuela.
En concreto las imágenes privadas filtradas fueron tomadas originalmente por una versión en desarrollo del robot aspirador Roomba J7 de iRobot, que posteriormente fueron enviadas a Scale AI, una startup que se encarga de la recopilación y etiquetación de imágenes para entrenar una inteligencia artificial.
No obstante, muchas de estas fotos privadas llegaron al medio MIT Technology Review que denunció la situación y averiguó cómo pudieron llegar esas imágenes originalmente capturadas por el robot aspirador a un foro privado de Facebook.
Tras la filtración de imágenes, iRobot confirmó que estas imágenes fueron capturadas por sus Roomba en 2020 proviniendo de robots en desarrollo especiales con modificaciones de hardware y software que nunca estuvieron presentes como productos de consumo para la compra.
Aclaran que estos robots se entregaron a recolectores y empleados pagados que anteriormente tuvieron que firmar acuerdos por escrito reconociendo que estaban enviando de forma constante flujo de datos, incluido vídeo, a la empresa con fines de capacitación.
Según iRobot, estos dispositivos especiales estaban etiquetados con una etiqueta verde que decía “grabación de vídeo en progreso” y que posteriormente dependía de los recolectores de datos eliminar cualquier cosa que consideraran sensible.
La razón de este tipo de procedimientos
Y es que este tipo de tecnología se basa en el aprendizaje automático, que hace uso de una gran cantidad de datos, incluidos voces, rostros y hasta elementos de nuestro hogar, para entrenar algoritmos y así reconocer patrones.
Luego estos datos se utilizan para construir robots más inteligentes. Y para que estos conjuntos de datos sean útiles, ciertos seres humanos individuales, como son estos recolectores de datos pagados, deben ver, categorizar, etiquetar y agregar contexto a muchas de estas imágenes capturadas.
iRobot, en boca de James Baussmann, señaló que la compañía “ha tomado todas las precauciones para garantizar que los datos personales se procesen de manera segura y de acuerdo con la ley aplicable”. Aclara que estas imágenes a las que accedió el medio “fueron compartidas en violación de una orden escrita”, es decir, de un acuerdo de confidencialidad entre iRobot y un proveedor de servicio de anotación de imágenes.
Posteriormente, el consejero delegado de iRobot, Colin Angle, aclaró que “iRobot ha terminado su relación con el proveedor de servicios que filtró las imágenes, y está investigando activamente el asunto y tomando medidas para ayudar a prevenir una fuga similar por parte de cualquier proveedor de servicios en el futuro”.
Y es que hoy día se está generalizando esta práctica de compartir datos potencialmente confidenciales para entrenar a algoritmos, algunos de ellos como los de esta historia donde una sola imagen viajó por multitud de lugares hasta que llegó definitivamente a esos foros privados en Facebook.
