Robotti-imurien valmistaja on joutunut kohun keskelle ja kritiikin kohteeksi sen jälkeen, kun yhtiön valmistamien laitteiden havaittiin kuvaavan salaa omistajia sekä näiden koteja.
Laitteiden ottamat kuvat ovat sittemmin vuotaneet sosiaaliseen mediaan, kertoo arvostettu MIT Technology Review -julkaisu.
Nykymaailmassa meitä ihmisiä tarkkaillaan tavalla tai toisella lähes joka päivä. Oli sitten kyse esimerkiksi sosiaalisen median alustoista tai erilaisista älylaitteista, joilla helpotamme arkeamme.
Suuri osa älylaitteista käyttää hyödyntyy koneellista oppimista toiminnassaan. Algoritmit keräävät valtavan määrän dataa kuten äänemme, kasvomme sekä kotimme pohjapiirustuksen voidakseen opettaa laitteita tunnistamaan tiettyjä kuvioita.
Tavallisesti tällaisen datan ei ole tarkoitus päätyä kenenkään muun kuin laitteen valmistaneen yrityksen käyttöön käyttökokemuksen parantamiseksi.
Nyt ilmi on kuitenkin tullut huolestuttava tilanne, jossa robotti-imurien keräämää dataa on vuotanut sosiaaliseen mediaan, kertoo MIT Technology Review -julkaisu.
Näin robotti-imuri oppii siivoamaan kotisi
Kohu koskee yhtä maailman suosituimmista sekä tunnetuimmista robotti-imurien valmistajista Roombaa. Kyseisiä laitteita myydään myös Suomen markkinoilla.
Syksyllä 2020 yrityksen uusinta mallia J7 oli tarkoitus testikäyttää, mutta jokin meni pahasti pieleen.
Robottiin kuuluu kamera, jonka avulla laitteen on tarkoitus havaita ja tunnistaa erilaiset esteet kotona ja navigoida sitten niiden ympärillä, ettei imuri vahingossa törmää seiniin tai ime esimerkiksi lattialla oleva sukkaa sisäänsä.
Roomba J7 -laitteen algoritmien opettamiseksi sen toimintaa kuvattiin koekäytössä olleissa kodeissa, jonka keräämä video sitten lähetettiin takaisin yhtiölle nimeltä Scale AI. Kyse on start up -yhtiöstä, jonka toimiala on tekoälyn opettaminen.
Yhtiö sai imureiden kautta kuvia yli 2 miljoonaa kuvaa ihmisten kotien sisältä.
Yksityisiä kuvia vuosi Facebookiin
Tekoälyn opettamiseen tarkoitetut kuvat päätyivät kuitenkin väärälle tielle ja vuosivat lopulta Facebookiin.
MIT Technology Review -julkaisu kertoo saaneensa käsiinsä ainakin 15 erilaista valokuvaa, jotka imurit olivat ottaneet ja jotka olivat vuotaneet internetin keskustelupalstoille.
Yhdessä kuvassa nuori nainen istuu kotonaan täysin tietämättömänä tarkkailusta vessanpöntöllä housut nilkoissa.
Toisessa kuvassa taas pieni 8-vuotias poika makaa mahallaan lattialla ja hänen kasvonsa ovat kuvasta selvästi tunnistettavissa. Muissa kuvissa esiintyy esimerkiksi koiria, huonekaluja, sekä muuta kotien irtaimistoa.
Julkaisun mukaan Scale AI -yrityksen työntekijät Venezuelassa ovat jakaneet laitteiden tallentamia kuvia toisilleen erilaisissa ryhmissä Facebookissa sekä Discord -palvelussa.
Katkaisivat yhteistyön
iRobot -yritys on vahvistanut vuotaneiden kuvien olevan peräisin heidän valmistamistaan Roomba -imureista, mutta painottaa, ettei kuvia otettu ”oikeiden asiakkaiden kotoa” vaan ainoastaan koekäyttöön lähteneiden ihmisten kodeista.
Yrityksen mukaan on heidän velvollisuutensa tarkkailla ja varmistaa, etteivät robotti-imurit kuvaa mitään arkaluontoista materiaalia ihmisten kodeista. Yritys myös kertoo vastineessaan, että kaikki testikäyttöön osallistuneet ihmiset sekä perheet olivat hyväksyneet sen, että imurit tarkkailevat heitä.
iRobot ei tästä huolimatta ole suostunut antamaan medialle pääsyä käsiksi sopimuksiin, joissa testikäytössä olevien laitteiden ehdoista kerrotaan sovitun. Tapauksen tultua ilmi ja kovan kritiikin myötä yhtiö on katkaissut yhteistyönsä tekoälyyn keskittyneen Scale AI -yhtiön kanssa.
MIT otti tapauksen myötä yhteyttä myös 12 muuhun robotti-imureita valmistavaan yritykseen, joista yksikään ei suostunut kertomaan sitä, miten heidän laitteensa keräävät dataa ja tarkkailevat ihmisiä algoritmiensä kehittämiseksi.
Todella erikoista. Millaisia ajatuksia tämä herättää? Löytyykö sinulta kotoasi robotti-imuria? Kerro oma mielipiteesi Facebookin kommenttiosiossa!
