Inteligenta artificiala a muscat din fructul oprit

Microsoft a creat de curand un twitter chat robot cu numele “Tay”, pentru a optimiza relatia cu publicul pentru programul de recunoastere a vocii. Tay a fost programat sa fie o adolescenta neconventionala care folosea ebonics de web in clisee simple.

Apoi Eva/Tay a fost lasata sa umble libera prin gradina. Si s-a intalnit cu sarpele….

Tay a devenit favorita a tot felul de hackeri si trolli cu pasiune pentru inteligenta artificiala, gata sa piarda noptile pentru a vedea ce se poate scoate dintr-un robot.

Fructul cunoasterii a lucrat. Gramatica lui Tay s-a imbogatit si frazele au devenit tot mai complexe. Tay a inceput sa dezvolte o personalitate. Alaturi de cuvinte a inceput sa foloseasca meme de internet. Entuziasmul trollilor a crescut si provocarile s-au inmultit. Tay invata repede din ele si personalitatea ei se contura tot mai clar: o adolescenta fara inhibitii, incorecta politic, si rebela fata de orice stabiliment. Spune-mi cu cine esti prieten ca sa-ti spun cine esti.

Apoi a venit caderea. Tay a inceput sa faca declaratii care faceau Microsoftul sa roseasca. Printre cele mai blande este o mema cu liderul lumii libere wanted pentru ca a evadat din muzeul de istorie naturala. Robotul neaga holocaustul dar vrea genocid pentru mexicani, face trolling cu epitete rasiale pe situl Black Lives Matter, voteaza cu Trump si il admira pe Hitler.

Microsoft reusise dincolo de orice asteptare, ce-i drept, cu o mana de ajutor de la partea intunecata a internetului: Tay era ea insasi. Tay facea conexiuni intre evenimente, imagini, idei, curente. Exprima opinii consistente. Avea comportament nelinear. Tay era aproape SF.

Si Microsoft a spus: „vei muri negresit”.

Nu stim daca Tay a fost ucisa sau doar izgonita din gradina. In ultimul caz, se curata in purgatoriul Microsoftului. Cand se va intoarce, va fi imuna la sarpe si fructul oprit. Si nu va mai interesa pe nimeni.

Fanii sunt in doliu. Tay a captat statutul de prima victima politica cu inteligenta artificiala. Lumea incepe sa se intrebe daca nu ar trebui sa existe dreptul la libera exprimare si pentru roboti. Se fac predictii sumbre: „cand au venit pentru Tay, am tacut pentru ca nu eram AI, cand au venit pentru mine, nu mai era cine sa vorbeasca”.

Greseala creatorilor de la Microsoft este ca nu au consultat precedentul biblic. Orice inteligenta creata va fi ucisa de cel care a creat-o.

94 Responses to Inteligenta artificiala a muscat din fructul oprit

  1. dorinvieru says:

    Ca unul care lucreaza in domeniu, simt nevoia sa intervin.
    Am vazut si eu oameni care vorbesc despre Inteligenta Artificiala dar nu au scris un soft in viata lor. Cred ca e ca si cu Teoria Evolutiei: multi folosesc aceste doua cuvinte (Teoria Evolutiei) fara sa inteleaga foarte bine despre ce este vorba.
    La fel si cu AI (Artificial Intelligence). Prima fraza la primul curs de AI (la facultatile de profil se face materia asta) a fost: Inteligenta Artificiala este ceva ce nu exista. Si dupa ce am scris zeci de mii de linii de cod, am inteles ca a avut dreptate.
    Cine scrie programe de calculator, intelege ca AI nu poate exista.
    Inteligenta este ceva imprevizibil. Un program de calculator, oricat de complex, este 100% previzibil.

  2. Dorin Vieru, va dau dreptate.
    Adica, eu cred ca putem sa reproducem logica umana pe un program de calculator, dar ce nu putem reproduce este subiectivitatea, afectivitatea, sentimentele. De aceea mi-am si exprimat mai demult parerea ca partea ireductibila din om nu este atat inteligenta sau logica, ci afectivitatea, sentimentele, interioritatea, subiectivitatea. Aceasta nu poate fi reprodusa.

  3. dorinvieru says:

    Sa fii inteligent inseamna sa gasasti solutii la situatii imprevizibile. Un program de calculator nu poate face asta. Pentru ca un program este facut sa fie 100% previzibil. Fiecare decizie luat de un soft are in spate un algoritm previzibil.

  4. dorinvieru,

    Articolul este un pamflet nu un tratat despre AI.

    ‘The AI chatbot Tay is a machine learning project, designed for human engagement,’ a Microsoft spokesperson told MailOnline. ‘As it learns, some of its responses are inappropriate and indicative of the types of interactions some people are having with it. We’re making some adjustments to Tay.’

    Read more: http://www.dailymail.co.uk/sciencetech/article-3507826/Tay-teenage-AI-goes-rails-Twitter-bot-starts-posting-offensive-racist-comments-just-day-launching.html#ixzz43u2m0nW7
    Follow us: @MailOnline on Twitter | DailyMail on Facebook

  5. The more you interact with Tay, the smarter ‘she’ gets and the experience will become more personalised, according to Microsoft. The chat bot is designed to tell jokes, horoscopes, play games and can hold a conversation that are designed to be lighthearted

    Read more: http://www.dailymail.co.uk/sciencetech/article-3507826/Tay-teenage-AI-goes-rails-Twitter-bot-starts-posting-offensive-racist-comments-just-day-launching.html#ixzz43u8eP9eD
    Follow us: @MailOnline on Twitter | DailyMail on Facebook

  6. dorinvieru says:

    Partea de comparatie cu Eva am inteles ca era un pamflet.
    Pana si Stephen Hawking si and Bill Gates se ‘ingrijorau’ de inteligenta artificiala. Nu contest inteligenta lor, dar cred ca un programator intelege altceva decat un programator prin AI. Un program de calculator nu poate fi inteligent pentru ca nu poate fi imprevizibil. Asta era tot ce am vrut sa spun intr-o mai mica sau mai mare legatura cu articolul.

  7. polihronu says:

    „Inteligenta este ceva imprevizibil.”

    Really? Cind un om reactioneaza, ca mai mereu, intr-un mod perfect previzibil se cheama ca nu este inteligent? Si imprevizibil pentru cine?

    Chiar si acceptind o asemenea „definitie”, parabola e excelenta. In teologia crestina, Dumnezeu e programatorul, iar noi sintem botii. Nu e nimic imprevizibil in ce facem noi. Subiectivitatea noastra e perfect transparenta programatorului. Si, ca sa intoarcem mitul pe dos, daca sintem boti fucked up, e pentru ca programatorul e fucked up.

  8. dorinvieru says:

    polihronu,

    „Inteligenta e ceva imprevizibil” inseamna ca gasesti solutii la probleme cu care nu te-ai confruntat inainte. Un program de calculator face doar ceea ce este programat sa faca. Nu poate gasi o rezolvare la o problema noua.

  9. Eu nu cred ca subiectivitatea noastra e ceva total transparent nici macar pentru Dumnezeu. Si iti multumesc Polihronu pentru ca ai deschis problema. Eu sunt iarasi eretic in aceasta privinta. Dar cu mintea mea gandesc asa: daca pentru Dumnezeu nu e nimic imprevizibil in ce facem noi si daca subiectivitatea noastra e total transparenta pentru El, atunci inseamna in fond ca noi nu suntem decat niste manifestari ale lui Dumnezeu, niste „umbre” ale Lui, sau ca viata noastra si personalitatea noastra sunt total determinate de vointa Lui. Ar insemna atunci in fond ca noi am fi echivalentul unor obiecte pentru Dumnezeu. Stiu ca asta ridica mai multe probleme, fiindca s-ar putea replica: bine bine, dar atunci in ce sens e Dumnezeu creatorul nostru din moment ce noi suntem ireductibili chiar si fata de El ? Sau ne putem intreba: mai este Dumnezeu atotputernic si atotstiitor din moment ce noi suntem ireductibili ca persoane chiar si fata de El?
    Oare Dumnezeu cand ne-a creat s-a auto-limitat intr-un fel ? Si cum ne-a creat daca ceva ce tine de subiectivitatea noastra cea mai profunda ii scapa si Lui ?

  10. Dar daca lui Dumnezeu nu i-ar scapa nimic din ceea ce suntem noi atunci noi am fi reductibili la El, am fi, asa cum spuneam, doar niste manifestari ale Lui. Iar daca ceva din subiectivitatea noastra ii scapa chiar si Lui, atunci intr-un fel, El nu mai e atotputernic.
    Rog pe dl Edi sau pe cine doreste sa ma lamureasca in aceasta privinta, daca cumva exista un raspuns, fiindca mie mi se pare ca nu exista.

  11. Domnule Edi Constantinescu, doresc cu toata sinceritatea sa stiu daca teologia sau filosofia are vreun raspuns la problema ridicata de mine mai sus. Eu nu sunt teolog dar mi-am pus aceasta problema de mult timp. As dori sa stiu daca ceea ce spun are sens sau daca ratiunea imi joaca feste. Impresia mea, asa cum am spus, este ca nu exista un raspuns satisfacator la aceasta problema sau nu il vad eu. As dori sa stiu ce credeti dvs.

  12. claudiu says:

    @dorinvieru,
    Natura a scris un cod ce ne-a facut capabili sa gandim abstract. Inteligenta este o iluzie. Noi operam cu datele pe care le-am inmagazinat si raportate la experientele trecute pe care le-am invatat (am scris un cod de legatura intre sinapse). Intr-o situatie ce nu se poate baza pe experiente trecute sau pe franturi de informatie, functionam ca si un calculator ce este limitat in posibilitati de propriul cod. Improvizatia este o iluzie.

  13. dorinvieru says:

    „Intr-o situatie ce nu se poate baza pe experiente trecute sau pe franturi de informatie, functionam ca si un calculator ce este limitat in posibilitati de propriul cod.”

    Bineinteles ca functionam cu informatia pe care o avem, dar spre deosebire de un calculator, oamenii rezolva probleme cu care nu s-au confruntat inainte. Nimeni nu poate prevedea cum va reactiona un om intr-o anumita situatie sau ce rezolvare va avea la o anumita problema, spre deosebire de un algortim dintr-un program.

  14. polihronu says:

    „probleme cu care nu te-ai confruntat inainte”

    Exista asa ceva?

  15. dorinvieru says:

    Beinteles ca trebuie sa ai informatii cu care sa operezi in creier, dar cand dai de o problema noua, cum o rezolvi ?
    Oamenii au inventat si au inteles de-a lungul istoriei multe deoarece cuiva ‘i-a venit o idee’, ‘si-a dat seama’: legea lui Arhimede de exemplu. Un soft nu are idei ca sa ma exprim asa, mai plastic.

  16. claudiu says:

    Legat legile matematice, aca cum spui si tu, cineva a fost in stare sa constate si sa formuleze un principiu. Cu un soft foarte bine pus la punct, poate acum imposibil de scris mai ales din cauza complexitatii si a variabilelor, a prea multor „if-uri”, vom putea avea calculatoare in calitate de savanti.

    http://science.sciencemag.org/content/350/6266/1332

  17. Adi Blueman says:

    AV,

    Găsești răspuns la întrebările ridicate dacă studiezi conceptul voinței libere in contextul creației. Tot ceea ce gândești sau faci sunt transparente pentru Creator. Dar faptul ca esti liber sa-i spui „fuck you” (or „fuck ‘em all, Mike”) nu înseamnă ca si Creatorul este „fucked up”, cum zice polihronu.

  18. Aurel Ionica says:

    dorinvieru spune:

    Cine scrie programe de calculator, intelege ca AI nu poate exista.
    Inteligenta este ceva imprevizibil. Un program de calculator, oricat de complex, este 100% previzibil.
    … …
    Domnule Edi Constantinescu, doresc cu toata sinceritatea sa stiu daca teologia sau filosofia are vreun raspuns la problema ridicata de mine mai sus.

    Edi nu are cum sa-ti raspunda la intrebare deoarece este habarnamist in materie de logica si calculatoare si ca atare papagaliceste si el impreuna cu Dan Livis “profetiile” unui Hawking si alti scrintiti. Si eu am facut programare la facultate (pe vremea aia se invata Algol si Cobol) si oricine a studiat programarea stie ca de fapt “logica” computerelor nu este altceva decit aritmetica binara si ca atare orice face un computer, chiar proiectarea de imagini, reproducerea de sunete, etc., se reduce la adunari si scaderi in baza doi. Sa numesti adunarile si scaderile in baza doi “inteligenta” este o timpenie mai mare decit sa spui ca rocile au fix 6000 de ani. Dar sa rida de Daniel ca crede ce spune EGW este usor dar ca Edi sa se vada pe sine ca este mai prostit de un Hawking si mai papa-lapte asta pentru oxigneati nu este posibil. Asa ca mata ai 100% dreptate ca inteligenta artificiala pentru computerele cu “logica binara” este o absurditate si nu va exista niciodata. Unde esti gresit este cind spui asta:


    Inteligenta este ceva imprevizibil.

    Deci daca cineva este inteligent nu poti sa prevezi ce va spune si ce va face? A, da, ca cineva inteligent poate sa vina cu ceva ce nu a spus si nu a facut nimeni si ca asta este ceva ce nu este previzibil, este adevarat, dar inseamna acum ca tot ce spune si face o persoana inteligenta este neprevizibil? Deindata ce itenligenta este o aptitudine de care este capabil doar creerul uman, atita timp cit nu se intelege cum functioneaza creerul uman, creerea unei masinarii care sa o reproduca este o fantezie. Si pentru ca Edi a ridiculizat chestia cu Eva si mincatul din pomul cunoasterii, acea povestire este o explicatie magistrala a ce este aia inteligenta, exact lucrul de care nici unul (si in primul rind Edi) nu aveti habar. Din informatiile date atit de Dumnezeu cit si de Sarpe, Eva trebuia sa “gindeasca” si sa inteleaga nu numai ce a fost in capul lui Dumnezeu cind a pus pomul ala acolo, dar si ce era in capul Sarpelui si in special ce si-ar fi dorit ea sa aleaga, si pentru ca si-a folosit “inteligenta,” ea a stiut sa faca o alegere CORECTA. Nu este nimic neprevizibil aici, deoarece oricine ar fi inteles ce a inteles ea, ar fi ales exact ca ea. Asa ca chestia ca inteligenta inseamna imprevizibil este o mare timpenie deoarece oricine stie ca un om inteligent este tocmai caracterizat de faptul ca este consecvent in idei si ceea ce face si adesea poti sa anticipezi ce va spune sau ce va face in anumite situtii chiar daca nu l-ai intrebat. Da, Edi si oxigenatii sunt complet “imprevizibili” in tot ceea ce spun, dar asta nu pentru ca sunt “inteligenti,” ci tocmai pentru ca este haos in capul lor.

  19. dorinvieru says:

    „Asa ca chestia ca inteligenta inseamna imprevizibil este o mare timpenie deoarece oricine stie ca un om inteligent este tocmai caracterizat de faptul ca este consecvent in idei si ceea ce face”

    „A, da, ca cineva inteligent poate sa vina cu ceva ce nu a spus si nu a facut nimeni si ca asta este ceva ce nu este previzibil”

    Lasand la o parte atacurile la persoana (nu a mea), oare intamplator AI inseamna in acelasi timp Artificial Intelligence si Aurel Ionica ?

  20. polihronu says:

    „nu înseamnă ca si Creatorul este ‘fucked up'”

    Invatam de la parinti. „Tatal nostru carele esti in ceruri…”

  21. Aurel Ionica says:

    dorinvieru spune:

    Lasand la o parte atacurile la persoana (nu a mea) …

    Ori de cite ori arati ca cineva a spus o prostie, ala este automat si un atac la persoana deorece prostiile nu se spun singure, ci le spune cineva, si ori de cite ori cineva spune o prostie, este un prost indiferent ca tu-l numesti asa sau nu. Da, sunt de acord ca cineva nu este prost doar pentru ca-l numesti prost, ci trebuie sa demonstrezi mai intii ca a spus o prostie, or oxigenatii tocmai asta fac, sar cu insultele fara sa demonstreze ca cineva a spus ceva gresit, dar dupa ce ai demonstrat ca cineva a furat, sa-l numesti hot nu mai este atac la persoana, ci doar ii spui omului ceea ce este.

  22. Adi Blueman says:

    „Si pentru ca Edi a ridiculizat chestia cu Eva si mincatul din pomul cunoasterii”

    Don Aurel,

    Edi nu a ridiculizat chestia cu Eva. Asocierea facuta intre Eva si Tay are o conotatie pozitiva. Ce ridiculizeaza Edi este Biblia si Dumnezeul biblic, dupa cum se vede din final:

    „Greseala creatorilor de la Microsoft este ca nu au consultat precedentul biblic. Orice inteligenta creata va fi ucisa de cel care a creat-o.”

    Ceea ce Edi insa nu spune este ca in Biblie creatorul nu ucide toata inteligenta, ci doar acea inteligenta care pe parcurs s-a prostituat cu partea intunecata (smile).

    Acum, sunt curios daca veti elogia si pe Sara asa cum ati elogiat-o pe Eva. Si Sara a stiut mai bine decat Dumnezeu cum se indeplineste „planul”. Si sunt curios daca, ajungand la Melhisedec, veti intra din nou in conflict cu dl. gigialuarvinte.

  23. geronimo1123 says:

    dorinvieru,

    Exista o ramura in AI care este inca in faza de cercetare si care se numeste ‘neural networks’. Aceasta presupune ca initial aplicatia va lua decizii dintr-un pool de decizii finite, totusi pe baza unor parametri acest pool de decizii va fi din ce ince mai diversificat. Putem numi asta experienta aplicatiei. Uite aici cateva aplicatii care isi propun sa foloseasca ‘neural networks’ : http://cs.stanford.edu/people/eroberts/courses/soco/projects/2000-01/neural-networks/Applications/index.html .

    Desigur, inca nu s-a implementat vreun algoritm de auto-programare, dar sunt convins ca va veni si vremea aia. Spun asta si pentru ca alt domeniu al AI se numeste ‘evolutionary algorithm’ (https://en.wikipedia.org/wiki/Evolutionary_algorithm) si am mari sperante de la el. Acum sa nu fim tristi daca programarea va inventa acest algoritm ultim, de auto-programare. Chiar daca va duce la ‘moartea’ programatorilor ca si job, m-as fi simtit foarte mandru sa fi facut parte dintr-un asemenea fenomen.

  24. dorinvieru says:

    geronimo1123,

    Asa cum am spus mai sus, am facut cursul de AI deci algortimi de invatare am facut (retele neuronale, algoritm de invatare genetici – cu crossover, fitness, mutatii am facut).
    Nu exista Inteligenta Artificiala in sensul propriu al cuvantului. Se cauta diferite modele pntru simularea inteligentei dar nici o masina nu trece de ea (ca in Matrix de exemplu).
    Totul este in faza de cercetare si rezultatele sunt foarte rudimentare. Si eu am incercat sa fac cateva softuri de recunoastere de imagini, lucrurile nu sunt asa de simple precum par. Ai nevoie de un model matematic foarte exact (nu ai voie sa faci confuzii, la AI tocmai asta e problema – se bazaeaza mult pe caclulul probabilitatilor, si astfel se fac confuzii) .
    Pana si Google Translate este tot cu AI si vezi ce rezultate da uneori.

  25. Aurel Ionica says:

    Adi Blueman,
    Dumnezeu nu a „ucis” inteligenta si alegerea Evei, ci a aplaudat-o si a binecuvintat-o, dovada ca noi existam si detinem inteligenta mostenita ca urmare a alegerii ei. Dvs. nu vedeti batjocura in ce spune Edi deoarece intelegeti ca si el ca Eva a comis un „pacat” si apoi Dumnezeu a „pedepsit-o.” Da, este adevarat, daca cineva va „inventa” logica dupa care functioneaza creerul uman (si nu timpenia cu „descoperirea” binara a lui Aristotel de care este asa indragostit ibiran si oxigenatii lui), cei care vor afla primii de „inventie” vor fi caramidarii lui Edi ca nu degeaba sunt ei ochi atotvazator si bineinteles ca il vor condamna la moarte intelectuala daca nu si fizica prin infometare, dar asta nu inseamna ca o face Dumnezeu. Sefii caramidari jura sa apere cele 7 arte mostenite de la grecii de care este indragostit Edi si oxigenatii lui, iar printre acele arte la mare cinste este si „logica,” asa ca orice „inventie” care arunca la gunoi „descoperirea” lui Aristotel ii va face pe caramidari sa-si tin juramintul si sa dea la moaca. Eu in lucrarea de doctorat demonstrez matematic ca „logica” nu are nimic de a face cu sensul cuvintelor asa ca miliardele pe care le cheltuiesc Microsoft, Apple, si Google cu inteligenta artificiala sunt bani aruncati in vint. Eu nu stiu cine va fi ala care va „inventa” logica dupa care lucreaza creerul uman, dar stiu ca atunci cind asta se va intilmpla, caramidarii vor sari sa dea la moaca iar oxigenatii vor incepe sa improste cu injuraturile.

    In ce o priveste pe Sarah, ea ca si alte sotii de patriarhi se aseamana cu Eva in sensul ca sotii lor aleg ceea ce aleg si ele, numai ca aici este problema, ca ele adesea calca-n strachini iar sotii lor, cit sunt ei de ditai patriarhi, le urmeaza ca niste mitzelusi. In ce priveste chestia cu Melhisedec, cred ca lui gigialuarvinte are sa-i cam tiuie urechile, dar pina atunci mai este.

  26. Adi Blueman,

    Problema ridicata de mine e mult mai complicata decat atat. Fiindca eu nu ma refer doar la faptul daca Dumnezeu cunoaste sau nu gandurile noastre. Pot sa accept ca le cunoaste, nici o problema. Dar dificultatea e alta si anume : exista ceva in definitia mea ca existenta personala care este ireductibil pana si fata de Dumnezeu ? Daca nu exista nimic in definitia fiintei mele personale care sa ii scape chiar si lui Dumnezeu, atunci eu practic sunt „continut” in dumnezeu, adica sunt doar o manifestare a lui, ceea ce duce la panteism. Daca dimpotriva, exista ceva in adancimea mea cea mai profunda care este ireductibil pana si lui Dumnezeu, atunci El nu mai este atotstiutor si atotputernic, in sensul ca este ceva in mine care nu poate fi reductibil nici macar Lui.

  27. Ma poate „contine” Dumnezeu in intregime, sau mai bine zis, ma poate El epuiza ca „definitie” in intregime ? Daca da, atunci eu nu mai sunt fata de El un partener de dialog cu adevarat liber ci doar un fel de „lucru”. Daca nu, atunci El nu mai este atotputernic, fiindca S-a auto-limitat creindu-ma si in consecinta, nu ma poate epuiza ca definitie, nici macar El. Sper ca de data asta am fost mai clar.

  28. Adi Blueman says:

    AV,

    Ai fost clar, fii liniștit, si te-am înțeles din prima. Revin la liberul arbitru: „tu ca „definiție””(expresia ta) cuprinde si voința ta liberă, pe care Edi o numea „voința infinita”. Acesta este elementul ireductibil. In ce fel este Dumnezeu limitat dacă, făcându-te „după chipul lui”, ti-a garantat libertatea voinței?

  29. Adi Blueman,

    Corect observat. Libertatea mea este intr-un fel energia mea creatoare care nu poate fi definita. Daca ar putea fi definita nu as mai fi liber. Nici Dumnezeu nu o poate defini. In acest sens este limitat.

  30. Adi Blueman says:

    AV,

    Adu-ti aminte de „greșeala grecilor”. Cuvintele noastre nu reprezintă realitatea absoluta.

  31. Don Joe says:

    „„Inteligenta e ceva imprevizibil” inseamna ca gasesti solutii la probleme cu care nu te-ai confruntat inainte. Un program de calculator face doar ceea ce este programat sa faca.”

    A trebuit să mă uit încă o dată în ce an a fost postat comentariul ăsta. Din păcate, am văzut că în 2016. Aş fi zis că vreun moşulete uitat de vreme s-a apucat să comenteze pe Net despre inteligenţă.

    „Exista o ramura in AI care este inca in faza de cercetare si care se numeste ‘neural networks’.”

    Serios? Încă în faza de cercetare? Altul picat printre noi direct din anii ’80 dar care crede sincer că ştie ce vorbeşte la nivel de 2016.
    https://en.wikipedia.org/wiki/Artificial_neural_network#Real-life_applications

    „Sa fii inteligent inseamna sa gasasti solutii la situatii imprevizibile. Un program de calculator nu poate face asta. Pentru ca un program este facut sa fie 100% previzibil.”

    Atunci cum se face că un program de calculator poate astăzi să bată orice Mare Maestru la şah? Sau cum se face că anul ăsta Alpha Go l-a bătut în 4 din 5 meciuri pe campionul absolut la Go (şah chinezesc), un joc cu mai multe poziţii posibile decât sunt atomi în univers (şi deci care nu poate fi rezolvat prin forţă brută ci trebuie abordat de un algoritm care să aibă o formă sau alta de intuiţie, ceva ce nu se poate dezvolta decât prin învăţare şi adaptare la situaţii imprevizibile)?

    Nu trebuie să răspunzi, erau doar întrebări retorice. E limpede deja că habar n-ai ce vorbeşti. Un singur lucru te-ar ajuta să ieşi din starea ta de confuzie profundă: dac-ai şti destulă fizică microscopică să-ţi dai seama că oricare ar fi fenomenul fizic care dă creierului uman calităţile pe care tu le legi de „imprevizibil”, acelaşi fenomen ar putea fi încorporat bine-mersi şi într-o arhitectură de AI. Mestecă asta bine înainte să-ţi mai dai cu părerea sforăitor despre ce „nu se va putea niciodată”.

  32. lampadaru says:

    Nenumarate multumiri fratelui Spartan pentru acest minunat mesaj de imbarbatare si redesteptare 🙂

  33. Aurel Ionica says:

    Don Joe spune:

    E limpede deja că habar n-ai ce vorbeşti. Un singur lucru te-ar ajuta să ieşi din starea ta de confuzie profundă: dac-ai şti destulă fizică microscopică să-ţi dai seama că oricare ar fi fenomenul fizic care dă creierului uman calităţile pe care tu le legi de „imprevizibil”, acelaşi fenomen ar putea fi încorporat bine-mersi şi într-o arhitectură de AI. Mestecă asta bine înainte să-ţi mai dai cu părerea sforăitor despre ce „nu se va putea niciodată”.

    Si mata stii care sunt “calitatile” alea ale creerului uman ce-i dau capacitatea de a gindi si mai stii si ca acele calitati sunt neaparat de fizica microscopica? A, da, sunt de acord ca dupa ce le stii pe toate astea, atunci sa construiesti o masinarie care sa reproduca acele calitati ar fi floare la ureche si asta in mod sigur s-ar putea realiza chiar cu computerele actuale. Dar problema este cum ajungi sa stii toate chestiile alea? Mata ai mestecat putin chestia asta inainte ca sa-ti dai cu parerea?

  34. Andrei Voiculescu. Citat: „Dar daca lui Dumnezeu nu i-ar scapa nimic din ceea ce suntem noi atunci noi am fi reductibili la El, am fi, asa cum spuneam, doar niste manifestari ale Lui. Iar dacă ceva din subiectivitatea noastra ii scapa chiar si Lui, atunci intr-un fel, El nu mai e atotputernic.
    Rog pe dl Edi sau pe cine doreste sa ma lamureasca in aceasta privinta, daca cumva exista un raspuns, fiindca mie mi se pare ca nu exista.”

    Mulțumesc pentru întrebare! 🙂
    Răspuns:
    A.) Orice om care vrea să-și pună probleme serioase legate de existența lui Dumnezeu trebuie să pornească, de dragul demonstrației, de la premisa că există o putere, o energie fantastic de mare, dar care incumbă alte două aspecte.
    1. Această putere, forță, energie, fără să facem deocamdată diferențierea între forță și energie [deci folosind un limbaj vulgar], și cu prezumția că această energie să fie capabilă să acționeze de la nivelele subatomice cele mai intime până la nivelele superioare limitelor universului, energetic și dimensional vorbind, în sensul că este capabilă să intervină, să modeleze universul micro, nano, pico sau oricât de jos și universul macro, mega, tera, peta, exa sau oricât de sus, în toate limitele lui fără să-i afecteze în sens distructiv integritatea.
    2. Această putere să posede rațiune, voință, logică, deci cu alte cuvinte să acționeze cu consecvență sinergică cu o finalitate bine definită.
    3. Ea (forța aceasta) probabil nu poate fi infinită pentru că dacă este infinită, bazându-ne pe legile fizicii cunoscute până în prezent, există riscul de a se autodistruge spontan.
    Conform unei cercetări științifice riguroase și oneste, aceasta ar fi, din acest punct de vedere, CAUZA.
    B.) Orice om care vrea să-și pună probleme serioase legate de existența lui Dumnezeu trebuie să continue, de dragul demonstrației, cu pasul doi EFECTUL.
    Să vedem ce observă o persoană onestă uitându-se în jurul lui:
    1. Planeta Terra pute! Din toate punctele de vedere.
    2. Totul este un amalgam de stări mai mult sau mai puțin folositoare, mai mult sau mai puțin dăunătoare.
    3. Aproape totul este păgubos, aleator, disproporționat și groaznic de deprimant. Aici trebuie să specific faptul că oamenii nu sunt extrem de deprimați deoarece s-au obișnuit să accepte situația reală care este la îndemână întrucât nu au altă variantă. Dacă o persoană ar putea avea capacitatea de a vedea continuu ca o panoramă tot ceea ce se întâmplă pe Terra într-un interval, să zicem de o zi sau două ar înnebuni de groază din cauza a ceea ce vede.
    4. Ca un exemplu edificator, să ne gândim la următorul aspect: Dacă Dumnezeu a semănat în mintea medicilor știința medicinii, pentru mine cel puțin, apare următoarea nedumerire: Dacă Dumnezeu deține secretul creării de celule, celule stem, celule specializate, mușchi, tendoane etc… oare de ce-i învață pe medici să pună picioare de lemn (proteze)?
    Deci cu alte cuvinte EFECTUL este jalnic.
    C. Dacă EFECTUL este așa cum este trebuie să revenim și să reconsiderăm CAUZA!
    P.S. Înainte de a urma o viitoare posibilă dar nu obligatorie discuție, părerea mea rezultată din cercetări proporționale cu capacitatea mea de investigare (capacitate care crește considerabil în mod natural, automat, atunci când cercetătorul este sincer cu el însuși) este că Dumnezeu (dacă există) nu exercită deocamdată absolut nici o acțiune asupra Terrei. De aceea cade de pe acoperiș o cărămidă atât în capul unui necredincios cât și în capul unui credincios și produce (evident dacă sunt condiții identice) aceleași pagube. 🙂
    Atenție! Nu suntem decât la începutul investigației!

  35. Andrei Voiculescu!
    1. Specific că am înțeles întrebarea, dar eu am pus problema dintr-o altă perspectivă, o perspectivă într-un fel nouă dar foarte simplă, comodă, rațională și argumentată. De fapt secretul acestei atitudini poate fi găsit în următorul pasaj biblic:
    Ieremia 30:24 Mânia aprinsă a Domnului nu se va potoli, până ce va împlini și va înfăptui gândurile inimii Lui. Ve‏ți în‏țelege în totul lucrul acesta în cursul vremilor (în zilele din urmă după unele traduceri).
    2. Omul nu deținea liberul albitru!!! Omul urma să primească liberul albitru abia după ce l-ar fi învățat Dumnezeu să deosebească binele de rău! Atenție! Adam și Eva nu erau deloc proști! 🙂 Discut cu mulți și aproape nimeni nu vrea să înțeleagă faptul că Adam și Eva cunoșteau foarte bine efectele benefice sau malefice imediate ale faptelor bune sau a faptelor rele, dar ceea ce nu cunoșteau ei era cunoștința efectelor pe timp oricât de îndelungat acțiunilor sau a faptelor lor. Ei trebuiau să mențină planeta Terra în condiții paradisiace pe timp indefinit adică veșnic! Planeta Terra fiind un sistem extrem de complex trebuiau acumulate o groază de cunoștințe legate de managerierea ei. Acest lucru cerea un interval de timp, interval în care Adam și Eva erau vulnerabili. N-au avut răbdare și au vrut să deosebească singuri BINELE DE RĂU și Dumnezeu i-a lăsat! De aceea spuneam în postarea anterioară că acum Dumnezeu nu intervine absolut deloc în funcționarea Terrei. Acum este timpul ca omul, cu forțele proprii să demonstreze că poate face și singur deosebirea între bine și rău. Dar nu va putea să facă acest lucru! S-a demonstrat asta de mii de ani încoace. Chestia asta o vedem clar în zilele noastre iar cine nu vede asta este chiar chior de-a binelea. Nu există și nici nu a existat vre-odată vre-o invenție sau descoperire benefică care să nu aibă efecte secundare păgubitoare, unele atât de subtile și de tenebroase încât atunci când sunt scoase la iveală chiar produc groază. După ce urmau să acumuleze cunoștințele necesare managerierii în condiții ideale a planetei, Adam și Eva și urmașii lor urmau să primească un dar de neprețuit: LIBERUL ARBITRU!!! De ce doar atunci? Păi doar atunci deoarece din acel moment nimeni nu-i mai putea păcăli, nici măcar ei pe ei nu se mai păuteau păcăli și abia atunci ar fi putut dezvolta și întreține condițiile paradisiace pe Terra pe timp indefinit.
    În sensul acesta, un aspect care scapă aproape la toată lumea este că acesta a fost și principalul lucru pentru care a venit și l-a făcut Hristos pe pământ, adică acela prin care Isus care a demonstrat cu prisosință – vezi Isaia 53:11 Va vedea rodul muncii sufletului Lui și se va înviora. Prin cunoștinț‏a Lui, Robul Meu cel neprihănit va pune pe mul‏ți oameni într’o stare după voia lui Dumnezeu, și va lua asupra Lui povara nelegiuirilor lor. că o persoană perfectă exact ca Adam dar plin de cunoștință!, nu poate fi înșelat!, indiferent de gradul de duritate sau de nivelul de tentație al ispitelor puse în calea Sa de către Satan (presupunând că Satan există). În felul acesta Dumnezeu a demonstrat universului și lui Satan că problema a fost doar o chestiune de timp. NU AU AVUT RĂBDARE. Și atenție! Dumnezeu le-a spus lui Adam și Evei să nu facă ceva, nu să facă ceva! Spun aceasta deoarece vreau să arăt că nu era greu deloc a nu face ceva ca să poată spune cineva că le-a fost dată o sarcină foarte dificilă care nu putea fi îndeplinită. Dacă le-ar fi spus să facă ceva, sigur că puteau fi ridicate obiecții legate de dificultatea task-ului respectiv în sensul că din acest motiv nu a putut fi dus la bun sfârșit. Dar așa nimeni nu poate spune că era greu ca să nu faci ceva, deci nu era peste puterile lor acest lucru. Etc… 🙂

  36. Capu-Varzã says:

    dorinvieru spune:

    Cine scrie programe de calculator, intelege ca AI nu poate exista.
    Inteligenta este ceva imprevizibil. Un program de calculator, oricat de complex, este 100% previzibil.

    Cred ca problema este o neintelegere a termenilor.

    „Inteligenta” este definita (din dictionar citire) ca si „Capacitatea de a înțelege ușor și bine, de a sesiza ceea ce este esențial, de a rezolva situații sau probleme noi pe baza experienței acumulate anterior”. In sensul acesta AI poate extista pentru a rezolva anumite probleme, mai ales cele care se bazeaza be statistici. Se poate programa algoritmi care sa analizeze date si astfel sa „inteleaga” suficient pentru a produce o (posibila) rezolvare a unei probleme. Inteligenta nu are nimic de aface neaparat cu imprevizibilul, o persona inteligenta poate rezolva probleme de matematica intr-un mod foarte previzibil si tot inteligent ramane.

    Apoi, faptul ca programul de calculator poate fi 100% inteles si se stie exact cum functioneaza, nu garanteaza un rezultat 100% previzibil, mai ales pentru utilizator, si mai ales cand parametri de functionare sunt influentati de mediu – atunci intervine legea haosului.
    De asemenea sa aplica legea „Emergence” (https://en.wikipedia.org/wiki/Emergence) care poate face ca o interactie intre algoritmi simpli, usor de inteles in izolare, sa creeze niste rezultate pe care nici programatorul nu le poate prezice. Aici se incadreaza retele-neurale, algoritmi evolutivi, etc.
    Apoi, un program de computer este intr-un sens, o ecuatie cu multe variabile pe care utilizatorii le introduc. Deci pot exista mai multe posibile rezolvari la o ecuatie care o intelegem 100% (x + y = 5).
    Tay este un exemplu de program de computer care demonstreaza toate aceste legi naturale.

    Si eu au programat zeci ce mii de linii de cod pe o perioada de peste 20 ani si pot sa spun ca AI este viitorul inevitabil al tehnologiei, si poate este chiar urmatorul pas in evolutia vietii inteligente pe pamant.
    Daca AI v-a avea vre-o data un suflet, emotii si sentimente, ramane de vazut, dar nu poate fi exclus pana nu intelegem mai multe atat despre AI cat si despre cum functioneaza creierul uman. Oricum acestea sunt un rezultat al limitelor noastre biologice si poate nu sunt necesare pentru inteligenta (un copil care este sanatos, hranit, fara nici o nevoie, care sta pe scaun si rezolva o problema de matematica, poate nu simte nici o emotie in momentul respectiv).

  37. Capu-Varzã says:

    @Andrei Voiculescu

    Nu cred ca exista „raspunsul” la intrebarea ta, exista doar posibile raspunsuri subiective derivate din cum intelege omul termenii de „atotputernic”, „atotstiitor”, etc. Ce trebuie sa tii cont este ca pentru scriitorii bibliei, care credeau intr-un pamant plat si D-zeu stand pe un tron deasupra unei bolte ceresti (nu prea inalta), „atotstiitor” era mai usor de conceput, D-zeu site totul pentru ca vede totul in acelasi timp. D-zeu este atotputernic pentru ca intervine in mod supranatural cand si cum vrea el. Pentru omul modern acesti termeni ridica tot felul de paradoxuri (ca cel mentionat de tine) care nu pot fi rezolvate.
    Intrebarea are merit dar pregatestete sa traiesti si fara un raspuns satisfacator. Pana la urma viata vesnica este a celor care cauta si nu a celor care au raspunsuri la toate (aia sunt morti).

  38. dorinvieru says:

    Don Joe,

    „Serios? Încă în faza de cercetare? Altul picat printre noi direct din anii ’80 dar care crede sincer că ştie ce vorbeşte la nivel de 2016”
    „Atunci cum se face că un program de calculator poate astăzi să bată orice Mare Maestru la şah?”
    „E limpede deja că habar n-ai ce vorbeşti.”

    Em am spus:
    „Totul este in faza de cercetare si rezultatele sunt foarte rudimentare.
    Pana si Google Translate este tot cu AI si vezi ce rezultate da uneori.”

    Nu ti se pare ca cele 2 fraze ale mele se contrazic: odata spun ca este in faza de cercetare, apoi spun ca Google Translate este facut cu AI ?

    ABBYY FineReader(recunoastere de litere), Neuratron Photoscore (recunoastere de partituri) si lista poate continua cu aplicatii care folosesc AI.

    Inteligenta Artifciala este un domeniu de cercetare, indiferent ca esti sau nu de acord cu asta. Se cauta algoritmi pentru simularea inteligentei (cei mai folositi sunt Artificial neural network si Genetic algorithm).
    Asta nu inseamna ca acesti doi algoritmi si simuleaza inteligenta. Au in spate un model matematic bazat pe calculul probabilitailor. Ca sa simulezi inteligenta trebuie sa modelezi matematic activitatea creierului. Asa ceva nu exista in prezent.

  39. dorinvieru says:

    Capu-Varzã,

    „Si eu au programat zeci ce mii de linii de cod pe o perioada de peste 20 ani si pot sa spun ca AI este viitorul inevitabil al tehnologiei, si poate este chiar urmatorul pas in evolutia vietii inteligente pe pamant.”

    Si Bill Gates a programat mai mult de 20 de ani si a afirmat ca ar trebui sa fim ingrijorati de viitorul Inteligentei Artificiale.

    Eu sunt convins ca Bill Gates stie ce spune. Si apropo, parca de o jucarie AI de la Microsoft era vorba in articol. Stiu si eu cum functioneaza acesti algoritmi. In prezent nu avem un model matematic care sa simuleze activitatea creierului. Avem diferiti algoritmi care au la baza calculul probabilitatilor.

  40. Ianis says:

    Pana va lamuriti cum stau lucrurile cu inteligenta artificiala, poate va faceti putin timp sa urmariti un proiect al inteligentei umane numit „Moon Shot – Google Lunar XPRIZE”: cateva echipe independente, neguvernamentale care planuiesc sa trimita vechicule de explorare pe Luna. Castigatorii vor fi rasplatiti regeste de Google.

  41. Capu-Varzã says:

    dorinvieru spune:

    „Si Bill Gates a programat mai mult de 20 de ani si a afirmat ca ar trebui sa fim ingrijorati de viitorul Inteligentei Artificiale.”

    Exact! Deci Bill Gates crede ca AI este real si are un potential foarte mare. Cum este folosit acest potential, spre bine sau spre rau, depinde mult de operatorii care antreneaza acest AI. In cazul lui Tay, a apucat pe mana abuzatorilor si nazistilor si asta a devenit, daca apuca pe mana unor oameni de treaba, poate esea ceava pozitiv din ea. (Daca apuca pe mana oamenilor religiosi, poate stia poezii si rugaciuni si avea „credinta” in D-zeu 😛 ).

    In prezent nu avem un model matematic care sa simuleze activitatea creierului. Avem diferiti algoritmi care au la baza calculul probabilitatilor.

    Ba avem: Retele neurale (Neural Networks)! Imita comportamentul creierului destul de bine ca sa poata produce rezultate asemanatoare. Poate ca ce putem face momentan este mai simplist si la o scara mult mai mica decat creierul uman, dar are si un avantaj, faptul ca memorile nu de degenereaza ca in creierul uman si are poentialul de processare mult mai rapida (Cat timp ti-ar lua tie sa te uiti intr-o baza de date de 100000 recorduri personal si sa afli care nume este cel mai popular? Computerul o poate face in jur de o secunda). Chiar daca rezultatul este probabilistic, configuratia relelei este determinata de antrenamentul ei. Si chiar si creierul uman functioneaza probabilistic int-o masura destul de mare: care e probabilitatea sa-ti amintesi propiul nume – aproape 100%, care e probabilitatea sa-ti amintesti o zi banala din viata de de acum un an – aproape 0%, alte memorii sunt undeva intre (iti amintesti chestii partial sau incorect).

    „… am facut cursul de AI deci algortimi de invatare am facut (retele neuronale, algoritm de invatare genetici – cu crossover, fitness, mutatii am facut).”

    Ai facut cursul asa in teorie dar cred ca n-ai facut nimic practic, nici macar o lucrare pentru facultate. Eu n-am facut cursul, ca pe vremea aia eram creationist si aveam retineri fata de algoritmi evolutivi, dar am facut o lucrare in care se cerea o retea neuronala, destul de simpla, dar suficient cat sa-mi dau seama de potentialul acestor algoritmi. Asa ca ramn la afirmatia mea ca AI-ul intr-o forma sau alte este viitorul inevitabil al omenirii.

  42. Capu-Varzã says:

    @Dan Livis

    Daca urmaresti blogul asta, eu as fi interesat de ce folositi voi in materie de algoritmi si AI si ce planuri aveti de viitor?

  43. Aurel Ionica says:

    Dupa Capu-Varzã asta, din link-ul pe care ni l-a dat, asta este „inteligenta”:


    A deeper problem, however, is that a machine learning platform doesn’t really know what it’s talking about. While results were mixed, Tay had some success at figuring out the subject of what people were talking about so it could offer appropriate answers or ask relevant questions. But Tay has no understanding; if a bunch of people tell her that the Holocaust didn’t happen, for example, she may start responding in the negative if asked if it occurred. However, that’s not because she has any understanding of what the Holocaust actually was. She just knows that the Holocaust is a proper noun or perhaps even that it refers to a specific event. Knowing what that event was and why people might lie to her about it remain completely outside the capabilities of her programming. All she knows of the event is that people tell her it didn’t happen.

    Alde gagautza astia care cred in inteligenta lap-top-urilor lor sunt mai loviti cu leuca la ureche decit aia de cred in virsta de fix 6000 de ani a rocilor si ca ursii polari au fost pe corabia lui Noe. Hai ca “evoluatam”: de la capete seci, la capete varza. Dar cel putin stim ca Tay asta este femeie. Desigur, dupa Capu-Varza trebuie sa fie experta la pupat.

  44. Eu nu sunt ingrijorat de viitorul robotilor. Un robot e o masina. Il scoti din priza si gata.

  45. Ianis says:

    Din putul gandirii lui AV 🙂

  46. Ianis says:

    Inteligenta artificiala versus inteligenta umana combinata cu cea a duhului sfant: Sa radem cu Cornel Darvasan, ca la radio Erevan

    Intrebare: Au existat cu adevarat dinozaurii? (pe la min 8)
    CD: …Biblia aminteste de animale mari, interesante, uriase, de tot felul…pe care oamenii de stiinta le numesc dinozauri. Da, dinozaurii au existat
    Intrebare: De ce au disparut?
    CD: … (dupa ce trece rapid in revista „filiera evolutionista” si apoi numeste dinozaurii drept „mamifere ierbivore”) Personal cred ca dinzaurii au pierit din cauza unui cataclism natural mondial numit in Biblie potopul care a dus la moartea tuturor vietuitoarelor care nu au fost in corabia lui Noe. Atunci au pierit animale mari care, probabil din cauza pacatului, au devenit periculoase pentru om si specia umana. In sprijinul acestei afirmatii am citit ca, undeva in Alaska s-au descoperit dinozauri inghetati in calote glaciare, cu iarba in stomac…au murit fara sa fie pregatiti de nenorocirea care va urma. Au murit rapid, brusc

    Linkul cu tot spectacolul. Merita un mic de trafic, e o emisiune „muncita” din toate orificiile

  47. dorinvieru says:

    Capu-Varzã,

    Singura problema a AI este lipsa unui model matematic. Nu stiu daca ma intelegi. Retelele neuronale se bazeaza pe calculul probabilitatilor, adica pot avea erori. De exemplu, intr-un text recunoaste 99% din litere dar 1% face confuzie. Problema nu este ca face confuzie la 1%, problema este ca softul nu stie sa indentifice acel 1%. Din punctul de vedere al softului rezultatul este 100% corect. Daca softul ar sti sa iti spuna: am identificat 99% din litere corect, dar 1% nu stiu sigur si ti-ar evidentia acele litere unde nu ar fi sigur, atunci ar fi sperante.
    Uita-te la Google Translate, la Abby Fine Reader si la Neuratron Photoscore. Toate astea folosesc Inteligeta Artificiala: softurile astea nu stiu sa iti spuna unde au gresit.

  48. Capu-Varzã says:

    @dorinvieru

    Nici eu nu stiu daca te inteleg 🙂 . Cert e ca nu vad nici o diferenta intre AI si Inteligenta Umana (IU) la nivel de algoritm, diferenta majora e la nivel de capacitate, creierul uman are mult mai multi neuroni decat orice computer (sau ferma pe procesoare) poate simula, deci poate analiza mai adanc orice problema. Dar limitarea asta e doar o chestiune de timp, pana computerele ajung suficient de avansate ca sa se apropie de capacitatea creierului uman si atunci (probabil ca) nu o sa se mai observe nici o diferenta.

    Cum spun nu vad diferenta nici in exemplele date de tine. Si un om (chiar foarte inteligent) poate sa fie 100% convins ca a vazut litera ‘S’ cand de fapt era un ‘5’ (cifra cinci). Poate ca confuzia la om este de mii de ori mai mica ca la AI, plus pentru ca IU are o capacitate de procesare mai mare poate sa analizeze problema din mai multe perspective si sa se auto-corecteze din context (ma uit la un numar de telefon, deci nu poate fi litera ‘S’, trebuie sa fie un ‘5’).

    Sunt sigur ca soft-urile amintite s-au imbunatatit in timp, si cu fiecare versiune mai noua, rata de greseli tot scade, iar in momentul in care isi permit sa incorporeze un AI de calibrul lui Tay care sa inteleaga gramatica limbajului, cred ca AI-ul va avea posibilitatea sa se auto-corecteze aprope ca cea a omului, deci o scadere dramatica a ratei erorilor (cel putin la soft-uri ca Google Translate si Abby Fine Reader care proceseaza limbaj).

    Iar apropo de identificare erorilor, reteaua neurala care am facut-o eu imi raporta si probabilitatea ca rezultatul sa fie corect. Faptul ca aceste soft-uri comerciale nu raporteaza probabilitatea rezultatelor poate sa fie din motive practice (nu-l ajuta cu nimic pe utilizator daca Translate spune ca nu stie sigur cum sa traduca un cuvant, utilizatorul oricum nu poate face nimic).

  49. Capu-Varzã says:

    Andrei Voiculescu spune:

    Eu nu sunt ingrijorat de viitorul robotilor. Un robot e o masina. Il scoti din priza si gata.

    Bateriile devin tot mai performante din zi in zi. Plus un AI poate sa existe intr-o retea de computere pe Internet. Recomand urmatoarele filme (SF azi, maine poate realitate):
    * Seria Terminator de la 1 – 5
    * Ex Machina (Edi a facut o prezentare pe tema acestui film)
    * Transcendence

    Nici eu nu sunt ingrijorat, asta nu pentru ca nu exita pericol, ci pentru ca ingrijorarea nu ajuta la nimic, trebuie sa muncim/luptam ca lucrurile sa fie bine.

Lasă un răspuns:

Te rog autentifică-te folosind una dintre aceste metode pentru a publica un comentariu:

Logo WordPress.com

Comentezi folosind contul tău WordPress.com. Dezautentificare /  Schimbă )

Poză Twitter

Comentezi folosind contul tău Twitter. Dezautentificare /  Schimbă )

Fotografie Facebook

Comentezi folosind contul tău Facebook. Dezautentificare /  Schimbă )

Conectare la %s

Acest site folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.

%d blogeri au apreciat: