Holy shit! Tää on iso juttu!

Yhden desimaalin tarkkuudella tuli eliniäksi universumin ikä, jos on 190 astetta. Yhteensattumako?

Softa, joka kerran julkaistaan verkkoon, on ikuisesti olemassa.

Ei ole, jos sen taltioivat fyysiset objektit tuhotaan niiltä osin, joilta informaatio on näistä erotettavissa. Tämä voisi esim tarkoittaa kaikkien koneiden ja lättyjen jne tuhoamista. Pienemmässä mittakaavassa taas saattaa riittää rajallisempikin hävitystoimenpide.

Oleellista nyt kuitenkin on kysymys, mihin esiintuomaani yritit tuolla tuoda jotain? Sopivin oletuksinhan (mainitunkaltaisen tuhoamisen epäonnistuminen tai puute) tuo esiintuomasi on pelkkä itsestäänselvyys, jolla en kyllä tästäkään huolimatta näe relevanssia käsitellylle aiheelle. Ei ole esim niin että koska softaa on vaikea hävittää kokonaan, koneet eivät voisi olla pahoja. Vai mikäköhän se sinun ajatuksenkulkusi oli?

Softa ei tarvitse rautaa, yksittäistä rautaa, olemassaoloonsa.

Mistä tämä yksilöitävän softankantajaraudan ajatus edes tulee tähän koko hommaan ja miksi? Miten moinen yksilöityvyys tai sen puute vaikuttaa hyvä-paha-pohdintaan? Ja missä ja kuka on väittänyt että softa tarvitsisi juuri tietyn yksilöitävän raudan, kun se ei ole kaivannut sitä melko varhaisista taltiointimenetelmistä saakka? Ja miten tämäkään liittyy hyvä-paha-pohdintaan?

Sanottakoon että kun peräänkuulutan sitä tulevaisuuden etiikkaa, noilta osin joutuu määrittelemään sen tietokonemaailman toimijan (vrt yksilö) varmaan sitten uusiksi. Mutta mitä sitten?

Nyt sinun pitäisi miettiä, mitä etua on ikuisesti olemassaolevasta sovelluksesta, joka tekee jotain tehtävää. Jos ohjelman tehtävä on kuten Stuxnetillä oli ja on, sen tarkoitus on tuhota yhden tai kahden maan energiantuotanto. Tällä on kiistatta vaikutusta joko alueellisesti tai maailmanlaajuisesti.

Mitä minä olen tarkalleen ottaen sanonut, minkä takia minun pitää miettiä tuota ensimmäisen virkkeen asiaa ja mitä minun tulisi tästä mietinnästä saada irti?

Yritätkö tuolla jälkimmäisellä jotenkin sanoa että kone ei voi siis koskaan olla hyvä tai paha vai miten tuo liittyy asiaan. Jos yrität, miten tämä päättely toimii?

Ei tarvita siis softaa, joka olisi älyllinen jollakin ennalta määritetyllä tavalla. Riittää, että kone tekee mitä tahansa sen määritelläänkään tekevän tarpeeksi laajassa mittakaavassa. Esimerkiksi kopioi itseään ja käyttää hyväkseen ydinvoimaloiden haavoittuvuuksia. Tähän ei tarvita vielä mitään "ihmisenkaltaista älyä". Silti tämänkaltainen ohjelmisto pystyy tuhoamaan jopa maailmanlaajuisesti energialähteitä, puhumattakaan ympäristötuhoista.

Nyt sinun olisi hyvä muistaa että tässä ei ole kyse siitä voiko kone jo nyt tehdä tuhoa vaan siitä mistä pisteestä eteenpäin koneet voi nähdä (epä-)eettisinä toimijoina. Et nähdäkseni ota tuohon asiaan enää kantaa, kuten aluksi otit, ja joko rakennat hyvin pitkää keissiä jonka yhteyttä alkuperäiseen aiheeseen on vaikea nähdä, tai sitten pohdintasi eivät edes liity siihen. Voi tietenkin myös olla että missaan jotain, missä tapauksessa toivon vastineesi valaisevan asiaa.

Mitä sitten jos yksittäisen raudan tipahtaminen pois yhtälöstä ei merkitse mitään? Ja liittyykö tuo nyt jotenkin johonkin kirjoittamaani? Olenko esim antanut jollekin juuri tietylle raudan palalle tällaista merkitystä? Ja miten tämä vaikuttaa siihen voiko kone olla hyvä tai paha?

Ei siinä, pidän kyllä mahdollisena että tulevaisuudessa kehitetään koneita jotka kokevat sen oman rautansa ikäänkuin omana kehona. Jos ne vain ohjelmoidaan näin. Vaikken tällä asialla näekään mitään merkitystä hyvä-paha -pohdinnalle.

En näe tässä syytä erotella rautaa softasta sen enempää kuin ihmistenkään tapauksessa kehoa mielestä. Kone tarvitsee molempia jotta siinä on tietojenkäsittelykomponentti ja se ei ole pelkkä filosofinen rakennelma paperilla jossain pölyttymässä.

Se pahuus-hyvyysaspekti sitten ratkaistaan suhteessa tekoon ja koneen (pitäen sisällään softan) olemukseen.

En ihan näe miten tuo erottelu muuttaisi mitään. Jos ihmistä paremmin ajattelemaan kykenevä kone tekee tekoja jotka olisivat ihmiseltä pahoja, niitä voi luultavasti pitää pahoina myös tällaisen koneen tekemänä. Ja edelleen kone = rauta + softa.

Kristian Hyvärinen kirjoitti: (eli 'koneista syntyy kehittyneempiä koneita jos ne jätetään huomiotta' - kun ei biologinenkaan evoluutio ihan noin toimi).

En jaksa viilata kaikkia muotoiluja ympäristön vaikutuksesta esim ihmisen evoluutioon kuntoon, vaan viittasin siis tilanteeseen, jossa tietokoneiden evoluutio on vapaa vastaavasti kuin ihmisen on.

Mtj:n aikaisempien viestien logiikka siitä, että epäinhimillinen äly - oli se kuinka kehittynyt ja itseoppiva hyvänsä - on silti epäinhimillinen ja näin ihmisen käsitteistölle ja eettisille luokituksille vieras, pitää mielestäni kutinsa.

Tämä on erikoinen argumentti. Meinaatko siis että tietokoneiden käsitteistössä voisi olla etiikka, mitä sitten ihmisen käsitteistöllä ei pysty mitenkään kuvailemaan? Minkälaisesta kielestä tällaisessa tapauksessa edes voisi puhua?

Nyt tarvittaisiin oikeasti parempaa perustelua. Sekä sinä että MtJ sanotte käytännössä että kone ei voi olla paha, koska se ei voi olla paha koska se on kone ja kone ei voi olla hyvä tai paha. Pahuuden ja hyvyyden pohdinta on filosofisesti haastavaa ja siinä tultaneen riittävästi kuorimalla väistämättä tilanteeseen missä toisaalta sanotaan että hyvää ja pahaa ei ole edes olemassa vaan tässä mielessä kaikki on olosuhteiden uhreja.

Nyt MtJ jo sanoi että tämä ajatus ei ole ihmisen tapauksessa mielekäs. (On sivuseikka, mutta jaan tämän mielipiteen.) Ihmettelen vain logiikkaa, miksi tämä tapa muka sitten olisi koneiden kohdalla mielekäs? Se ero ei tule tuosta käsitemeiningistä. Tarvittaessahan meidän pitää vain sitten keksiä lisää käsitteitä.

Eli näen asian siten, että kehittynyt kone on eettinen toimija, jos se on kykeneväinen itsenäiseen päätöksentekoon, jos siihen on asetettavissa eettisiä parametreja (moraali) ja jos sillä on vaikutusmahdollisuudet eli asema tehdä niitä eettisiä valintoja. Minkäänlaista evoluutiota tämä ei mielestäni edellytä.

Sinä laitat siis tässä koneen eettisen elämän alkamisen aiemmaksi kuin hetki kun siitä tulee "evolutiivisesti itsenäinen toimija". Tai ainakin minä luulisin että nuo vaiheet tulevat ennen.

Minä kuitenkin tarkoitin sitä että sitten kun ollaan jo siellä pidemmällä vaiheella, niin siinä kohtaahan kone sitten varsinkin on jo eettinen toimija.



Samassa kuitenkin nimenomaan peräänkuulutan sitä etiikka 2.0:aa, jonka tarpeellisuudesta me vasta tässä puhutaan. Itse en siis puhu siitä mitä sen ihan tarkalleen ottaen tulee olla. Minä toisaalta näenkin filosofian kategorisointeina ja niillä pelaamisen johdonmukaisuuden tarkasteluna. On johdonmukaista sivuuttaa hyvä-paha-tarkastelu ihmiselläkin tyystin, jos pointti sitä kaipaa. Ja toisaalta taas käyttää sitä tarkastelua johonkin mihin se taas sopii. Täysin sama juttu tulevaisuuden koneilla.

Minulle on sekä hyvä-paha:n puute että sen olemassaolo ihmiselle ja ihmistä kehittyneemmälle koneelle OK. Jos kuitenkin yhdellä seurataan yhtä ja toisella toista väylää, näen tässä epäjohdonmukaisuuden. Kysynkin, miksi tällainen epäsymmetria vallitsisi eettisissä pohdinnoissa?

MtJ kirjoitti: Ajattelet tuossa ihan liikaa rautaa. Ei ole olemassa sellaista rautaa, joka kehittäisi lisää rautaa itsenäisesti.

Mielestäni sinä ajattelet liikaa nykytilanteen kiikarein. Kysehän on tulevaisuuden visiosta, jossa kenties on rakennettu "fyysisiltä" toiminnoiltaan ja älyllisesti kykenevämpi kone kuin ihminen. Tällöin tämä kone pystyy jo suunnittelemaan ja toteuttamaankin seuraavan koneen paremmin kuin ihminen.

Tuo "kehittäminen" on tietenkin ihan mielenkiintoinen sana. Ei niiden koneiden tarvitse koneen pinpistä tulla, vaan riittää että koneet pystyvät hankkimaan materiaalit ja rakentamaan jne. Toitkin tuossa esiin että nykyään on nimenomaan logistiikassa ongelmat, mutta kuten toin esiin, ihmistä molemmilla tavoin kehittyneempi konehan ratkaisee tämän ongelman.

Toisekseen, eikös esim autojen tekeminen tapahdu jo nyt paljolti automatisoidusti, jolloin koneet nimenomaan kehittävät "rautaa" itsenäisesti? (Kunhan EI huomioida virtaa, huoltoja, ohjausprosesseja ja tavaran syöttöä... minkä siis edellämainitussa mielessä ylivertainen kone sitten jo voikin tehdä.)

MtJ,

Ei se itseoppiminen ole vielä riittävällä tasolla. Vai voisiko koneet jo jättää huomioimatta ja ne kehittyisivät itse siten että evoluutio on käynnissä ja koneet tuottavat parempia koneita jotka jonain päivänä menevät ihmisestä ohi? Koska vasta jossain tuossa kohtaa minä näen rajan menevän siinä että mikä on todellista oppimista. Vasta tuossa vaiheessa konetta voi tarkastella (epä-)eettisenä toimijana.

Ja pointti oli että jos koneet kehittyvät riittävän pitkälle, tämä pohdinta ihan oikeasti ajankohtaistuu. Et ihan muuten antanutkaan tuohon pointtiin vastinetta...



En BTW tarkoittanut että ihminen ei voisi olla hyvä tai paha. Tarkoitin että pohdinta koneiden hyvyydestä ja pahuudesta tulee olemaan jossain vaiheessa jokseenkin vastaava ("vastaavasti") kuin nykyisenlainen pohdinta ihmisen pahuudesta.

Ajatus siitä että ihmisessä olisi jotakin muutakin kuin sen "hardware", "software" ja mitä se vastaanottaa ja mille se altistuu, on toki ihan mielenkiintoinen. Kun sanot että massamurhaajuus tulee jostain muualta, olisikin kiva tietää mistä? Mitä selvästi myös Kristian ajaa tässä takaa...

MtJ kirjoitti: Kone ei ole hyvä eikä paha, se tekee mitä sen ohjelmoidaan tekevän. Ja jos se oppii virheistään, se parantaa tekemistään koko ajan. Tässä piilee vaara, ei siinä, että kone "olisi paha". Sellaista ei ole olemassakaan. Mutta kone voi muuttua pahantahtoiseksi tehtävänsä vuoksi.

Vastaavasti ihminenkään ei ole hyvä eikä paha, vaan tekee tietyllä sumeudella mitä se on vastaavalla sumeudella (oppiminen) "ohjelmoitu" tekemään.

Nythän siis puhutaan sen tasoisesta tekoälystä että koneesta tulisi aktiivinen oppija. Tällöin koneenkin kohdalla tulee filosofinen pohdinta hyvästä ja pahasta ajankohtaiseksi. Nyt se ei vielä toki ole ja huomaatko MtJ että kenties katselet oppimismekanismiltaan oleellisesti nykyisestä poikkeavaa konetta nykyasetelman kautta?

Siinä kohtaa pohdinta laajenee siihen että konteksti itsessään, jossa tätä hyvyyttä ja pahuutta tarkastellaan, saa entistä suuremman roolin. Nyt ihmisillä on ymmärrys että ihmisen tappava eläin ei ole paha, mutta ihmisen tappava ihminen on. Kun koneet luultavasti elävät ainakin jonkin aikaa samassa (luokka-?)yhteiskunnassa kuin ihmiset, on luultavaa että sen ajan filosofiset pohdinnat eivät näe tätä koneiden ja ihmisten välistä kontekstien rajaa yhtä jyrkkänä kuin sen, mikä nykyään erottaa eläimet ihmisistä. Tätä suuntausta kannatan henkilökohtaisesti jo näin etukäteen.

Kutsuttakoon pahaa konetta pahaksi, siis.

En silmäile artikkelia läpi.
Viittasin shakkijutulla puhtaasti ja pelkästään Kristianin sanomaan.

En minäkään pidä tuota frisbee-esimerkkiä kovin hyvänä. Uskon parempaan tarkkuuteen kuin mihin ihminen kykenee. Huomattavasti helpommassa tehtävässä kuulapyssyllä, selvitettyäni lähtönopeuden, tietenkin fysiikan lait pätivät ja kuula lensi ennusteen mukaisee paikkaan. Frisbee-esimerkissä täytyy vain selvittää oleellinen fysiikka suhteessa siihen miten frisbee laukaistaan ja uskon että jos joku haluaisi, saisi jo nyt paremman laitteen kuin ihminen tuohon tarkoitukseen. Ja varsinkin nopeamman.

Silti esimerkissä on paljon hyvääkin, varsinkin suhteessa MtJ:n tehovaatimukseen. Se mitä AM ajanee takaa on omastakin mielestäni mielenkiintoinen pohdinta. En tosin osaa muotoilla sitä uusiksi, mutta ehkäpä jotakin siihen suuntaan että mitäs jos tulisi suuri innovaatio jolla sitä tehoa vaadittaisiin vähemmän ja tietokonemainen tarkkuus samassa heikkenisi? Onko tällainen edes mahdollista vai maksaako sumeus nimenomaan enemmän tehoa? Ihmisellä uskon että juuri sumeus mahdollistaa resursseihin nähden tehokkaan toiminnan ns vähän sinne päin.



Osaako MtJ tai joku sanoa, ohjelmoidaanko mitään riittävän monimutkaista sellaisella tavalla että perille vievän polkutyyppisen algoritmin sijaan arvotaan "osoite" ja tämän jälkeen testataan miten hyvin ollaan perillä... Ja sitten arvotaan uudestaan pienemmästä joukosta, eli arvottu yrite paranee? Mielestäni ihminen toimii paljossa tällä tavoin. Juuri liikunnallisissakin suoritteissa me (mielestäni) esitestataan ideaa ennen suoritusta.

Ja jos noin tehdään, minkätyyppisissä asioissa ja voisiko tuolla suunnalla olla lisää varaa entistä pienemmällä teholla, riittävällä tarkkuudella, toimimiseen?

En jaksa lukea itse tekstiä, mutta hyvää pohdintaa Kristianilta.

Mitä tuohon shakki-"vallankumoukseen" tulee, se ei ole suhteessa Terminator kakkoseen vielä mitään. Siitä on matkaa ajattelevan ihmisen tasolle enemmän kuin numerisesta jakolaskusta tuohon shakkijuttuun. ("matka" ei tässä tarkoita välttämättä aikaa.) Täytyy nimittäin huomata, että jokin shakki-"osaaminen" on juuri sitä pyörittelyä mitä kannattaakin ulkoistaa tietokoneille, eikä siinä tarvitse ajattelua ollenkaan.

Uskon että tuo kaljuuntumisdiagnoosin teko olisi jo ohjelmoitavissa. Binäärijärjestelmähän ei aseta rajoja vaihtoehtojen määrälle. Yhtä hyvin tietokoneet voisivat käyttää kymmenjärjestelmää tai vaikka satajärjestelmää, mutta kun binäärijärjestelmällä saa verraten lyhyesti kirjoitettua samat asiat ja vaihtoehtoja on vain kaksi, se on teknologian kannalta usein paras vaihtoehto.

(Yksi kenties kuvaava vertaus on että esim miljardi on just vähän alle 2^30, eli merkkejä tarvitsee binäärijärjestelmässä siihen vain noin kolminkertaisen määrän suhteessa kymmenjärjestelmään. Merkkivaihtoehtoja taas on vain viidesosa kymmenjärjestelmästä.)