Dele:
10 ganger datamaskiner gikk Rogue
Datamaskiner og automatisering er revolusjonerende arbeidsplassen og verden generelt. Sjansen er at et sted der ute, er det et team av dyktige ingeniører som ser på hvordan en maskin eller et program kan gjøre jobben din. Det er svært få stillinger som noen ikke har forsøkt å fylle med en robot på sitt punkt.
Kanskje vi ikke skal være quaking i frykt bare om datamaskiner som tar over alt. På den annen side har det allerede vært tilfeller av maskiner og AIer som er ute av kontroll. Her er ti eksempler på at datamaskiner går rogue.
10 død av robot
Den første registrerte døden med automatisert robot skjedde i 1979. Robert Williams jobbet på en Ford-fabrikk da en robotarm svingte rundt med tilstrekkelig kraft til å drepe ham umiddelbart. Uvitende at den hadde drept ham, gikk roboten stille med arbeidet i en halv time før Williams kropp ble oppdaget. Williams død var den første roboten drap, men ikke den siste.
Tidlige industriroboter manglet de nødvendige sensorer for å fortelle når det var noen til stede som de skulle unngå mangling. Nå er mange maskiner bygget slik at de unngår å skade folk. Dessverre er det fortsatt tilfeller av roboter i fabrikker som forårsaker dødsfall.
I 2015 ble Wanda Holbrook, en erfaren maskintekniker, drept mens han reparerte en industrirobot. Mens hun jobbet i et område som det ikke burde ha hatt noen aktive maskiner, ble hun slått ned. På en eller annen måte ignorert sikkerhetsprotokollene, lastet en robot en del på Holbrooks hode og knuste den.
9 Facebook AIs Lag eget språk
Leter etter etterretninger på Facebook kan føles som litt av en kamp noen ganger. Kanskje av denne grunn bestemte Facebook seg for å frigjøre noen kunstige intelligenser på sitt sosiale nettverk i 2017. Resultatet var ikke i det hele tatt det de hadde forventet. De to chatbots begynte å snakke med hverandre på et språk som de, men ingen andre, kunne forstå.
Fra begynnelsen til engelsk ble deres chatter snart til noe annet da de gjorde endringer i språket for å gjøre det mer effektivt å kommunisere. Facebook ønsket å se hvordan maskinens tanker kunne håndtere hverandre i handler som byttehatter og bøker. En prøve av deres handelsforhandlinger går som følger:
Bob: Jeg kan jeg jeg alt annet ...
Alice: baller har null til meg for meg til meg til meg til meg til meg til meg til
Bob: du jeg alt annet ...
Alice: baller har en ball til meg for meg til meg til meg til meg for meg
Bob: jeg kan jeg jeg jeg alt annet ...
Mens mange rapporter antydet at dette var en mørk utvikling for maskinens intelligens, tror andre at vi bare trenger å være strengere med tankene vi lager. Robotene laget sitt eget språk fordi de ikke ble fortalt å holde seg innenfor engelsks regler. Også med AI, har vi alltid, for øyeblikket, muligheten til å trekke sine plugger.
8 kinesiske Chatbot-spørsmål Kommunistpartiet
Den kinesiske regjeringen er notorisk hard på kritikk, den som taler det. Så da en chatbot i Kina begynte å kritisere det kommende kommunistpartiet, var operatørene raske til å slå den av. I 2017 introduserte Tencent QQ, en messenger app, to søte chatbots som heter Baby Q og Little Bing, tatt i form av en pingvin og en liten jente, men de begynte snart å si ikke-søte ting.
Fordi robotene ble programmert til å lære av chatter for bedre å kunne kommunisere, hentet de snart noen uortodokse meninger. En bruker som uttalt: "Løve det kommunistiske partiet," ble spurt av Baby Q, "Tror du at et slikt korrupt og inkompetent politisk regime kan leve for alltid?" En annen bruker ble fortalt, "Det må være et demokrati!"
Lite Bing ble spurt hva sin "kinesiske drøm" var. Dens respons var ikke akkurat ut av Mao's Little Red Book : "Min kinesiske drøm er å gå til Amerika." Botsene ble raskt stengt.
7 selvkjørende biler
For folk som hater å kjøre, kan ankomst av en virkelig selvkjørende bil ikke komme raskt nok. Dessverre beveger noen selvkjørende biler allerede for fort. Den første døden i en selvkjørende bil skjedde i 2016. Joshua Brown ble drept mens han tillot Teslas autopilotsystem for å kontrollere bilen. En lastebil dreide seg foran bilen, og Tesla klarte ikke å bruke bremsene. Etterforskerne plasserte mye av skylden på Brown. Tesla autopiloten skal ikke erstatte sjåføren. Føreren bør holde hendene på rattet for å ta over kontrollen om nødvendig. Brown mislyktes i å gjøre dette.
Tidligere iterasjoner av systemet hadde andre problemer. Videoer har blitt lagt ut på nettet som ser ut til å vise Teslas på autopilot som kjører inn i trafikk eller styring farlig. Bortsett fra disse tekniske problemene, er det filosofiske problemer med selvkjørende biler. I en tilfeldighet må bilen måtte velge mellom flere handlingsplaner, alle involverte dødsfall. Skal den løpe over en familie på fortauet for å beskytte sine beboere? Eller vil den ofre seg selv og sin eier for det større gode?
6 Plane Autopiloter Ta pinnen
Autopiloter i fly kan få det til å virke som om det er lett å fly. Bare pek mot flyet i riktig retning og prøv å ikke berøre kontrollpinnen. I virkeligheten er det mange grunner til at fly har piloter og copilotter å ta av, lande og håndtere eventuelle nødssituasjoner i midten.
Qantas Flight 72 var 11.278 meter (37.000 fot) over Det indiske hav i 2008 da autopiloten tok flyet i to manøvrer som sendte det nedover. Det første tegn på problemer var frakoblingen av autopiloten og utløsningen av motstridende advarsler. Plutselig vippet nesen mot bakken.Passasjerer og mannskap ble kastet mot taket før de fallet da piloter gjenvunnet kontrollen. Flyet kastet igjen under autopilotens kontroll. Mange passasjerer fikk ødelagte bein, hjernerystelse og psykisk skade. Da de kom tilbake til Australia, klarte pilotene å lande flyet vellykket.
Dette var en engangs-begivenhet. Evnen til å overstyre autopiloten reddet livene til alle om bord. Det har imidlertid vært tilfeller, for eksempel når en psykisk forstyrret copilot krasjet sitt fly i Frankrike, drepte alle 150 mennesker ombord, at en allmektig autopilot kunne ha vært i stand til å redde dagen.
5 Wiki Bot Feuds
En av de beste tingene med Wikipedia er at alle kan redigere den. En av de verste ting om Wikipedia er at alle kan redigere den. Selv om det ikke er uvanlig for rivaliserende eksperter, eller bare uenige partier, å engasjere seg i redigeringskriger for å få sin mening på nettet, har det vært tilfeller der de som er engasjert i kampen, har vært bots.
Wikipedia-bots har hjulpet til å forme encyklopedi ved å gjøre endringer som å knytte mellom sider og fikse pauser. En studie i 2017 viste at noen av disse bots har kjempet hverandre i årevis. En bot som virker for å stoppe falsk redigering, kan oppdage arbeidet med en annen bot som et angrep på Wikipedias integritet. Det ville fikse det. Men da ville den andre boten oppdage den forandringen og gjenta sin handling. Til slutt ville de falle inn i en spiral av redigering og motredigering.
To bots, Xqbot og Darknessbot, kjempet en duell over 3600 artikler, og gjorde tusenvis av redigeringer som den andre ville prøve å motvirke ved å redigere de andre redigeringene.
4 Google Homes Chatting
Google Home er en enhet lastet med en kunstig intelligens kalt Google Assistant som du kan snakke med. Du kan be den om å finne ut fakta på Internett eller til og med fortelle det å senke lysene eller slå på varmen. Dette er flott hvis personen som snakker med Google Home, kan stille de riktige spørsmålene og tolke svaret. Hvis ikke, da kan tingene bli litt surrealistiske.
To Google Homes ble plassert ved siden av hverandre og begynte å snakke med hverandre. Utvalget av emner som maskinene involvert i var interessant. Hundretusener innstilt for å se på AIene diskuterer ting som om kunstig intelligens kunne bli underholdt. På et tidspunkt erklærte en av maskinene seg å være et menneske, selv om den andre utfordret det over det punktet. Ved en annen anledning truet en til å slå den andre. Kanskje det er for det beste at de ble designet uten hender.
3 Roomba Spreads Filth
Hvis du er den typen person som hater rengjøring, kan en automatisert støvsuger virke som den ideelle husholdningsrobotten. Roomba er en liten enhet som, takket være sensorer og programmering, er i stand til å navigere rundt møbler ettersom det renser gulvet. Det er i det minste det som skal fungere. Et par personer har funnet ut at deres Roomba gjorde ganske mye det motsatte av rengjøring av huset.
I hvilken person som ble beskrevet som en "pooptastrophe", spredte Roomba hunden i hele sitt hjem. Når deres nye valp hadde en ulykke på et teppe om natten, ville det vært en enkel jobb å rydde den opp. På et tidspunkt kom Roomba ut for å gjøre sin nattlige jobb. Det var ikke noe Roomba hadde laget for å møte poeten. Dens forsøk på å rense den spredte faktisk fanget over hver overflate som den kunne nå. En lignende hendelse er vist ovenfor.
2 spill tegn overmakt menneskeheten
En dårlig AI kan gjøre et videospill uspillbart. Det er ikke gøy å skyte en motstander som fortsetter å gå inn i vegger eller avgifter i kamp uten et våpen. Det viser seg det motsatte kan være sant. En AI som er for smart kan være like ille.
Elite: Dangerous er et massivt flerspillerspill om handel, utforsking og kamp over galaksen. Spillere og ikke-spillere AIs eksisterte og samhandlet som de var designet til til en programvareoppdatering i 2016 tweaked intelligens av AIs. Nå var de i stand til å lage sine egne våpen for å bruke mot menneskelige spillere. Med denne evnen utviklet AIene stadig dødeligere angrep. De var også i stand til å tvinge menneskelige spillere til kamper.
I møte med en tilbakeslag fra menneskelige spillere som fant seg uimotståelige av AIs taktikk og våpen, måtte utviklerne av spillet fortryde endringene.
1 Navy UAV Går Rogue, Heads For Washington
I Terminator filmer, en kunstig intelligens som heter Skynet tar over militæret og ødelegger menneskeheten med maskinstyrker og atomvåpen. Mens det er ren science fiction, har det vært bekymrende trekk mot datamaskinstyrte droner som engagerer seg i kamper med mennesker. I et tilfelle hvor en droneoperatør mistet kontrollen bestemte han seg for å gå mot den amerikanske hovedstaden.
I 2010 mistet en MQ-8B Fire Scout ubemannet luftfartøy (UAV), en helikopter drone designet for overvåkning, kontakt med sin håndterer. Når dette skjer, er dronen programmert for å gå tilbake til sin luftbase og lande sikkert. I stedet for å gjøre dette, penetrerte det det begrensede luftrommet over Washington, DC. Det var en halv time før Navy var i stand til å gjenvinne kontrollen over UAV.
Alle andre lignende droner ble jordet til feilen i programvaren kunne korrigeres.