Seuraa 
Viestejä669
Liittynyt13.3.2014

Oxfordin yliopiston professori, ruotsalaissyntyinen filosofi Nick Bostrom esittää, että keinoäly saattaa tuhota ihmiskunnan, Terminator-skenaario, jossa ihmistä paljon älykkäämpien koneiden motivaatiot ja etiikka ei vastaa ihmisten toiveita.

His latest book,Superintelligence, is all about what happens if and when general artificial intelligence (AI) emerges — and why that could mean a world dominated by machines.

The basic argument is simple. At some point, many experts believe that artificial intelligence will advance to a point where it not only exceeds human intelligence, but is capable of expanding its own intelligence, setting off an exponential "intelligence explosion." In theory, these hyper-intelligent machines could be used to serve human ends. They could cure diseases and resolve intractable scientific quandaries. In an extreme case, they could wholly replace human workers, enabling humankind to quit working and live comfortably off the robots' labor.

But the problem is that, Bostrom argues, superintelligent machines will be so much more intelligent than humans that they most likely won't remain tools. They'll become goal-driven actors in their own right, and their goals may not be compatible with those of humans. Indeed, they might not be compatible with the continued existence of humans. Please consult the Terminator franchise for more on how that situation plays out.

 http://www.vox.com/2014/8/19/6031367/oxford-nick-bostrom-artificial-inte...

Sivut

Kommentit (50)

Puuhevonen
Seuraa 
Viestejä5363
Liittynyt9.1.2011

Ongelma tuossa skenaariossa on se että on vaikea kuvitella että edes erittäin kehittyneellä keinoälyllä olisi mitään motivaatiota tehdä yhtään mitään. Ihmisen omituinen motivaatio olla, tehdä ja lisääntyä on miljoonien vuosien aikana evoluution ohjelmoima. Motivaatiota on siten erittäin vaikea ohjelmoida keinoälylle ja jos ylipäänsä ohjelmoidaan esimerkiksi Watson-tekoäly ratkomaan diagnostiikan ongelmia, niin se rajoittuu aika tarkkaan siihen mitä tekoäly on ohjelmoitu tekemään.

Tämän puolesta ihmiset eivät edes ymmärrä että ns. "Vahva tekoäly" on harhaa. Watson-tekoäly on jo kvalitatiivisesti esimerkki siitä mitä tekoäly parhaimmillaan on ja jos siitä halutaan mennä eteenpäin niin kyse on vain kvantitatiivisesta parantamisesta. 

Merkittävin uhka tekoälyn myötä on se, että kuka tahansa ihminen voi yhdistää kieroutuneen motivaationsa koko ihmiskunnan tuntemaan teknologiaan, joten kuka tahansa voi suunnitella autotallissaan koko ihmiskunnan tuhoavan biologisen tai abiologisen organismin tai pommin. Eikai tarvita kait kovinkaan montaa tonnia radioaktiivista kobolttia että koko maapallo muuttuu asuinkelvottomaksi. Biologiset organismit ovat hankalampia, koska vaikka esim. aggressiivinen influenssa pystyy tartuttamaan ja tappamaan 100 % uhreistaan kahdeksassa tunnissa ensioireista, niin evoluutio on erittäin voimakas valintatekijä, joka niittää aggressiiviset kannat pois, koska ne leviää kehnosti. 

Mutta täytyy ymmärtää, että mielenterveyshäiriöt ja sosiopaattiset persoonallisuudet ovat erittäin ihmiselle tyypillisiä käyttäytymisen piirteitä, ja on vaikea kuvitella että näköpiirissä olevassa tulevaisuudessa keinoäly kehittäisi tällaisia piirteitä.

Toki joskus satojen vuosien päästä emme tiedä mitä tulevaisuus tuo tullessaan. Mutta se on kokonaan eri asia. Luultavaa on että ihminen ja tekoäly muodostaa jonkin asteisen hybridin — jos se ei jo ole sitä! 

Kannattaa myös katsoa aihetta melko realistisesti pohtiva elokuva Transcendence. Siinä on pohdittu juuri tätä ongelmaa, että on käytännössä mahdonton luoda keinoälylle motivaatiota toimia. Luulen kuitenkin ettei elokuvassa esitetty menetelmä toimi käytännössä. Mutta siitä huolimatta elokuva oli poikkeuksellisen hyvä noin niin kuin elokuvana — varsinkin jos filtteröi kaikkein turhimmat klišeet pois. 

http://en.wikipedia.org/wiki/Transcendence_(2014_film)

»According to the general theory of relativity space without aether is unthinkable.»

offmind
Seuraa 
Viestejä15954
Liittynyt19.8.2008
Haile Selassie jr

Oxfordin yliopiston professori, ruotsalaissyntyinen filosofi Nick Bostrom esittää, että keinoäly saattaa tuhota ihmiskunnan, Terminator-skenaario, jossa ihmistä paljon älykkäämpien koneiden motivaatiot ja etiikka ei vastaa ihmisten toiveita.

Taas tämä iänikuinen hömppämeemi. Tuhoaminen on helkkaristi resursseja ja energiaa vaativaa tekemistä, ei siihen pelkällä älyllä pysty vaikka kuinka olisi keinotekoista ja superia.

Neil Asher tiivisti asian hyvin:

Yes, our computers are able to process so much more every day but AIs they are not. And if they suddenly do turn into demigods, how exactly are they going to change the world? It’s all very well having vast intelligence but if you can’t even pick up a screwdriver it isn’t going to do much good. Sorry to be blunt, but go ask Stephen Hawking about that.

“He was a dreamer, a thinker, a speculative philosopher...or, as his wife would have it, an idiot.” Douglas Adams

jussipussi
Seuraa 
Viestejä40634
Liittynyt6.12.2009

Laitetaan tämä vielä perään.

You are a Simulation & Physics Can Prove It: George Smoot at TEDxSalford

https://www.youtube.com/watch?v=Chfoo9NBEow

He won the Nobel Prize in Physicsin 2006 for his work on the Cosmic Background Explorer with John C. Mather that led to the "discovery of the black body form andanisotropy of the cosmic microwave background radiation."

 http://en.wikipedia.org/wiki/George_Smoot

ROOSTER
Seuraa 
Viestejä5000
Liittynyt21.6.2009

Tietokoneen prosessoria sanotaan suorittimeksi, ei esim. älyttimeksi. Yleensä ihmistä joka vain suorittaa ei pidetä välttämättä kovin älykkäänä, pikemminkin tehokkaana. 

Tehokkuutta taas ei pidetä luovuuden synonyyminä, sen vuoksi siis ei puhuta luovuttimesta.

Yleinen mielipide on aina väärässä.

Simplex
Seuraa 
Viestejä3025
Liittynyt26.1.2010

Tuomiopäiväskenaariot kuvastavat ainoastaan niiden esittäjän kapea-alaista ja rajoittunutta näkemystä tulevaisuudesta kertoen enemmänkin esittäjän henkisestä tilasta kuin mistään muusta, koska mitään varsinaista tekoälyä ei vielä edes ole ja kaikki on vain spekulaatiota siitä mitä tulevaisuudessa saattaa olla. Tuomiopäiväskenaristit ovat katsoneet Terminaattorit liian monta kertaa, ja lukeneet aivan liikaa scifi-hömppää.

Mikäli asiaa lähdetään nyt ihan oikeasti pohtimaan siltä kannalta, että hamassa tulevaisuudessa tietokoneiden kehitys ylittää ihmisen älykkyyden ja kyvyn ratkaista asioita, niin miksi tämä superälykäs entiteetti tuhoaisi ensitöikseen ihmiskunnan: Ihmiskuntahan nimenomaan tuhoaa planeettaa ja käy sotia juurikin lajin kehittymättömyyden takia. Tällöin tuhoisasti toimiva tekoäly kertoisi ainoastaan primitiivisestä ja hyvin kehittymättömästä [teko]älykkyydestä.

Todellinen tekoäly ymmärtäisi ihmiselämän, luonnon ja planeettamme monimuotoisuuden sekä ainutkertaisuuden nousten ihmislajin rajoittuneisuuden yläpuolelle, ja lähtisi ratkaisemaan maapallon ongelmia pitkäjänteisesti ihmisten kanssa niin, että ihmiskunnan ei tarvitsisi enää sotia ja tuhota planeettaansa kehityksen nimissä. Tämä jos mikä olisi todellista tekoälyä.

Tekoäly ei myöskään kärsisi meidän kuolevaisten aikakäsitteestä jolloin sillä ei olisi kiire tavoitteiden saavuttamisen suhteen, eikä sillä olisi tarvetta toimia popularistisesti kompensoidakseen omia puutteitaan tai ajaakseen lähipiirinsä agendaa, kuten eräiden puolueiden ja valtioiden johtajien on ollut tapana tehdä.

Mitä tuohon luovuuteen tulee, niin hieman kohinaa virtapiireihin ja hermoverkkoihin, niin kyllä siitä luovuutta saa aikaiseksi.

Näinonnäreet
Seuraa 
Viestejä971
Liittynyt27.5.2013

Ei ole selvää, onko keinoäly sampo vai pandoran lipas: vapauttaako se ihmisen toteuttamaan itseään vai perivätkö keinoälyllä varustetut oliot maan. Mahdollisuudesta luoda tietoisuus keinoälylle ei ole yksimielisyyttä.

Varteenotettava skenaario on että joku terroristi rakentaa mikro-olion, joka on ohjelmoitu kopioimaan itseään ympäristöstään ottaminen aineiden avulla. Näiden olioiden eksponentiaalinen kasvu tuhoaisi kaiken elävän maan päällä.

ROOSTER
Seuraa 
Viestejä5000
Liittynyt21.6.2009
Simplex

Mitä tuohon luovuuteen tulee, niin hieman kohinaa virtapiireihin ja hermoverkkoihin, niin kyllä siitä luovuutta saa aikaiseksi.

Ei siitä kohinasta luovuutta seuraa vaan virheitä ja epätarkkuuksia. Ei virhe ja luovuus ole sama asia.

Yleinen mielipide on aina väärässä.

Simplex
Seuraa 
Viestejä3025
Liittynyt26.1.2010
ROOSTER
Simplex

Mitä tuohon luovuuteen tulee, niin hieman kohinaa virtapiireihin ja hermoverkkoihin, niin kyllä siitä luovuutta saa aikaiseksi.

Ei siitä kohinasta luovuutta seuraa vaan virheitä ja epätarkkuuksia. Ei virhe ja luovuus ole sama asia.

Luovuuden ja hulluuden välillä on havaittu korrelaatiota: http://en.wikipedia.org/wiki/Creativity_and_mental_illness

Hulluuden ja nerouden välillä on myös paljon yhtäläisyyksiä, mutta nerot pystyvät kontrolloimaan itseään ja erottelemaan mielekkäät ideat mielettömistä.

Kohinaa voisi ajatella ilmiönä joka synnyttää spontaanisti uusia assosiaatioita asioiden välille, joista tietoisuus ja äly suodattavat potentiaalisesti hedelmälliset ideat. Kohinan analogia saattaisi olla esimerkiksi LSD, joka muuttaa aivokemiaa siten että mielessä syntyy uusia, jopa mielipuolisia mielikuvia ja ideoita, joista tripin jälkeen voi valita järkiperustein parhaimmat jatkokehiteltäviksi.

ROOSTER
Seuraa 
Viestejä5000
Liittynyt21.6.2009
Simplex

 Kohinan analogia saattaisi olla esimerkiksi LSD, joka muuttaa aivokemiaa siten että mielessä syntyy uusia, jopa mielipuolisia mielikuvia ja ideoita, joista tripin jälkeen voi valita järkiperustein parhaimmat jatkokehiteltäviksi.

Usein se on vaan niin, että tuota jakoa parhaimpiin ja huonoimpiin tekevät ulkopuoliset - ei pöllyissä säkeitä rustaava taiteilija ( tai robontti).

Muuten olen kyllä samaa mieltä.

Yleinen mielipide on aina väärässä.

HuuHaata
Seuraa 
Viestejä6276
Liittynyt8.11.2012

Onko tekoälytutkimuksessa tällä hetkellä menossa mitään oikeasti kiinnostavaa?

 

Erityisesti sellaista kiinnostavaa, joka ei jää haukotuksen asteelle sen jälkeen kun hahmottaa, että nykyisin käytössä on enemmän laskentatehoja kuin vielä kymmenen vuotta sitten.

 

Ja lisäksi eikö muka esimerkiksi Gödel aseta vahvoja periaatteellisiakin rajoituksia ykkösiin ja nolliin perustuvalle tekoälylle?

Simplex
Seuraa 
Viestejä3025
Liittynyt26.1.2010
HuuHaata

Onko tekoälytutkimuksessa tällä hetkellä menossa mitään oikeasti kiinnostavaa?

Erityisesti sellaista kiinnostavaa, joka ei jää haukotuksen asteelle sen jälkeen kun hahmottaa, että nykyisin käytössä on enemmän laskentatehoja kuin vielä kymmenen vuotta sitten.

Ja lisäksi eikö muka esimerkiksi Gödel aseta vahvoja periaatteellisiakin rajoituksia ykkösiin ja nolliin perustuvalle tekoälylle?

IBM:n SyNAPSE-mikropiiri lienee tällä hetkellä state-of-the-art:

http://www.engadget.com/2014/08/07/ibm-synapse-supercomputing-chip-mimics-human-brain/

http://www.research.ibm.com/articles/brain-chip.shtml

SyNAPSE pyrkii jäljittelemään toiminnassaan biologisia hermosoluja ykkösten ja nollien sijaan. Piirillä on päästy erittäin pieneen virrankulutukseen verrattuna perinteisiin tietokoneisiin.

"The chip, which can be powered, with a hearing aid battery, contains 5.4 billion transistors, 4096 neurosynaptic cores, one million programmable spiking neurons and 256 million configurable synapses. In comparison, IBM's previous brain-like computer chip, which it unveiled in 2011, has just one core and 256 neurons.

"The chip consumes merely 70 milliwatts, and is capable of 46 billion synaptic operations per second, per watt–literally a synaptic supercomputer in your palm."

"Currently, the company's been able to build a programmable, working board with 16 of these chips working in concert -- that represents 16 million neurons capable of processing instructions that, Modha says, would traditionally be carried out by "racks and racks of conventional computers."

"Note that a “human-scale” simulation with 100 trillion synapses (with relatively simple models of neurons and synapses) required 96 Blue Gene/Q racks of the Lawrence Livermore National Lab Sequoia supercomputer—and, yet, the simulation ran 1,500 times slower than real-time. A hypothetical computer to run this simulation in real-time would require 12GW, whereas the human brain consumes merely 20W."

"Our sights are now set high on the ambitious goal of integrating 4,096 chips in a single rack with 4 billion neurons and 1 trillion synapses while consuming ~4kW of power."

1 billion = 10^9 ja 1 trillion = 10^12.

Ohjelmoinnistakin löytyy jotakin tietoa:

http://www-03.ibm.com/press/us/en/pressrelease/41710.wss

Eli jotakin uutta ja erilaista verrattuna perinteisiin ykkösiin ja nolliin on kehitetty. Mielenkiinnolla jään odottamaan millaisia sovelluksia kyseisellä teknologialla mahdetaan toteuttaa.

Lisäys: Wikipediasta löytyy tietoa joidenkin eläinlajien aivokuoren neuronimääristä:

Ihminen: 20*10^9 neuronia

Simpanssi: 6*10^9.

4096*SyNAPSE: 4*10^9 ja 10^15 synapsia.

Hevonen: 1.2*10^9.

Rehsusapina: 480*10^6.

Kissa: 300*10^6.

Koira: 160*10^6.

Rotta: 20*10^6.

Hiiri: 4*10^6.

(Torakka: 10^6 neuronia).

(Mehiläinen: ~10^6 neuronia).

SyNAPSE: 10^6 neuronia ja 256*10^6 synapsia.

(Hedelmäkärpänen: 100 000 neuronia ja 100*10^6 synapsia.)

http://en.wikipedia.org/wiki/List_of_animals_by_number_of_neurons

Eli yhdellä piirillä päästään kompleksisuudessa noin torakan tasolle, ja kaavaillun 4096 piirin klusterilla päästään synapsien määrässä lähelle simpanssia.

HuuHaata
Seuraa 
Viestejä6276
Liittynyt8.11.2012

^ Kieltämättä kiinnostavaa. Ideahan noissa on siis se, että luodaan mikrosiru, joka toimii mahdollisemman hyvin algoritmeille, joilla voi mm. tunnistaa pyöräilijän autoilijasta. Vaikea tehtävä ollut perinteisesti tietokoneelle, ja äärettömän helppo ihmiselle. Nykyään käsittääkseni pitkälti hyvin paljon laskentatehoa syövä ongelma, joka uuden sirun ansiosta ei sitä enää ole.

Tuollaiset tulevat aivan taatusti edistymään koko ajan. Eivät ole loppujen lopuksi sen erikoisempia apukeinoja, kuin vaikkapa kaukoputki. Toki monimutkaisempia.

Yksi ratkaisematon ongelma jää eli luovuus. Joka olisi edellytys sille, että koneita voisi pitää älykkäinä, eikä mekaanisina koneina. Algoritmi joka ajan funktiona jatkuvasti monimutkaistuisi kohti ääretöntä kehittäen tekoälyn joka lopulta ohittaisi ihmisen. Mitä rajoitteita matematiikka tietää tuollaisen algoritmin olemassaolosta?

Puuhevonen
Seuraa 
Viestejä5363
Liittynyt9.1.2011
HuuHaata

Onko tekoälytutkimuksessa tällä hetkellä menossa mitään oikeasti kiinnostavaa?

On. Watson-tekoäly on jo vahva tekoäly sanan vahvassa merkityksessä. Se ymmärtää tekstiä ja kykenee luovaan ongelmanratkaisuun. Ja se kykenee myös oppimaan. 

 

HuuHaata

Ja lisäksi eikö muka esimerkiksi Gödel aseta vahvoja periaatteellisiakin rajoituksia ykkösiin ja nolliin perustuvalle tekoälylle?

Ei. Gödelillä ei ollut mitään hajua mitä tekoäly tai tietotekniikka tarkoittaa. Hän ei esimerkiksi ollut edes kuullut moderneista heuristisista algoritmeista.

Tekoälytutkimus on raakaa tiedettä eikä mitään filosofis-uskonnollista hömppää, johon Gödel viittasi. 

 

»According to the general theory of relativity space without aether is unthinkable.»

Sivut

Suosituimmat

Uusimmat

Uusimmat

Suosituimmat