Darwin’s Doubt vs. Google – lui George Dumitru

Acest articol este un răspuns la un video al lui George Dumitru, în care prezintă câteva argumente în favoarea Intelligent Design. Argumentul principal pe care l-am identificat este următorul: ADN-ul ar fi informație funcțională, ”meaningful”, întrucât îndeplinește 4 condiții:
1. este pragmatică – are un scop
2. este semantică – mesajul are un sens
3. are sintaxă – o formă specifică
4. poate fi supusă analizelor
Concluzia lui Meyer pare a fi aceea că doar o persoană inteligentă, asemenea unui om, poate transmite informație funcțională. Pentru a analiza aceste afirmații, voi face referire la teoria sistemelor complexe, apoi vom analiza un studiu de caz propus de neurocercetătorul Michael Gazzaniga – sistemul reclamelor Google. Apoi mă voi întoarce la restul afirmațiilor lui George.

A complex system is composed of many different systems that interact and produce emergent properties that are greater than the sum of their parts and cannot be reduced to the properties of the constituent parts. […] Examples of complex systems are popping up all over the place: weather and climate in general, the spread of infectious disease, ecosystems, the Internet, and the human brain.[…] “The common characteristic of all complex systems is that they display organization without any external organizing principle being applied.” (Luis Amaral, Julio Ottino) That means no head honcho, no homunculus.

Google ad auction. All you have to think about is the Google ad auction to realize you can have a system that looks like someone is in charge, but no one is. It is run on algorithms. The ad auction has three selfish parties to please, the advertiser who wants to sell a product, thus needs a relevant ad; the user who wants relevant ads so he doesn’t waste time; and Google, which wants satisfied advertisers and users to return for more business. Every time a user makes a query on Google, Google runs an auction for clicks. Advertisers have to pay only when they get a click. How this works is the advertisers provide a list of keywords, ads, and bids for how much they will pay when a person clicks their ad; however, the advertiser does not pay what he bids, he pays the bid of the advertiser that is below him in rank; that way he pays the minimum amount that is necessary to maintain ranking position. The Google user enters a search query, and Google compiles a list of ads whose keywords match the query. Google wants to be sure that the ads shown to users have a high quality. Quality is judged on three components. The most important is the click-through rate. Thus every time that a user clicks an ad, he votes on it. The second component is relevancy. Google looks to see how well the keywords and context of an ad match up to the search query. It only uses relevant ads, saving shoppers from irrelevant ads by preventing ads from paying their way on to a search unrelated to their product. The third component is the advertiser’s landing page quality, which should be relevant, easily navigable, and transparent. Ad rank is determined by the bid multiplied by the page quality. The beauty of the design is that the selfish motives of each party are harnessed and, voila! As Google’s chief economist points out, the most productive interaction results. The system, while appearing to be run by a single controller, runs without one, by an algorithm (Gazzaniga, “Who’s in Charge”).

“This is a reality in which authority moves within the shifting, dynamic fields of the self-determining, self-organizing systems known as “heterarchies”. According to these principles, absolute and relative, objective and subjective, no longer have any meaning” (Woods, 1997, p14).

Pentru cei care nu au răbdare să citească, Gazzaniga afirmă următoarele: avem trei componente – advertiser-ul, user-ul și Google. Advertiserul introduce trei parametri: keyword, ad, bid. User-ul scrie un text în fereastra de căutare (query), apoi votează automat atunci când dă click pe o reclamă. Google introduce o licitație pentru reclamele tuturor userilor; cei care plătesc mai mult, urcă în ierarhie, deci banii sunt un criteriu definitoriu pentru calitatea rezultatului, alături de rata click-urilor, relevanța (bazată pe compararea automată a keyword-urilor cu căutările – queries) și transparența site-ului advertiser-ului. Încercați să reprezentați vizual sistemul.

George – când dai o căutare pe Google, sunt rezultatele ei exemple de ”informație funcțională”? Aparent, da. Sunt pragmatice, au un scop clar – acela de a-ți oferi reclame relevante. Au rezultatele o semantică și un sens? Primele rezultate de pe pagină vor fi foarte probabil ceea ce căutai. O fată din lista mea de fb căzuse în extaz la gândul că parcă Youtube îi citește gândurile, oferindu-i exact melodiile ei preferate pe care nu le mai ascultase de multă vreme!
Are pagina de rezultate o sintaxă? O formă anumită? Firește că are! Este sortată descrescător, în ordinea relevanței, în funcție de criteriile enumerate mai sus. Poate fi supusă analizelor? Absolut! După definiția ta, sistemul reclamelor Google poate fi caracterizat ca fiind informație funcțională, ”meaningful”.

În video, întrebai dacă informația funcțională poate apărea prin mutații aleatorii. Răspunsul este afirmativ. Programatorul de la Google nu a făcut decât să stabilească regulile sistemului; mai departe, relevanța căutărilor, cuvintele-cheie, licitațiile, calitatea reclamelor – toate acestea sunt create prin ”mutații aleatorii”, interacțiuni între milioane de actori care contribuie involuntar la rafinarea rezultatelor. Ca și advertiser pe Google, nu ai un șef care să te supravegheze; plătești o mașinărie să îți țină reclama sus, iar banii sunt plătiți efectiv atunci când un utilizator de la celălalt capăt al pământului dă click accidental sau nu pe reclama ta. Nu există niciun Intelligent Designer, niciun homunculus care te cunoaște și îți recomandă reclame fiindcă știe că ți-ar place, sau care a studiat personal reclamele mai multor advertiseri, oferindu-le note în funcție de calitate. ”Calitatea” e o proprietate care emerge din interacțiunea aleatorie între mai mulți actori ”orbi”, care au cu totul alte scopuri decât să contribuie la rafinarea sistemului. Iar Google nu este decât un alt element din sistem, care primește bani prin procese la fel de aleatorii.

Probabil îmi vei spune că există, totuși, un algoritm inteligent care a stabilit regulile jocului. Dar asta e cu totul altceva decât ID. Programatorul a stabilit legile sistemului, principiul antropic dacă vrei. Ar fi ID dacă programatorul ar intra în sistem, citind el însuși căutările userilor și recomandându-le el însuși un site util, sau stabilind el însuși o ierarhie a reclamelor în funcție de calitate.
Apoi în natură există sisteme complexe care nu implică existența unui algoritm inteligent. Cel mai banal exemplu este un ecosistem natural. Alegem unul apărut la multă vreme după cambrian, să nu existe obiecții; ecosistemul respectiv implică relația dintre mai mulți actori ”orbi”, cu sau fără conștiență de sine: compoziția aerului, factorii climatici, activitatea tectonică, tipul de vegetație, constrângerile pe care aceasta le impune asupra animalelor, diferitele relații pradă-prădător din lanțul trofic etc. Se știe că simpla dispariție a anumitor specii de plante a permis extinderea și evoluția altora, care în timp au dus la răcirea climei, provocând o glaciațiune care ea însăși a dus la extincția a peste 80% din specii. Sau unirea a două continente a permis speciilor din nord să invadeze sudul, ducând la extincția celor mai multe specii locale.
Toate acestea sunt exemple de sisteme complexe naturale, fără intervenția vreunui programator. În fapt, ciberneticienii s-au inspirat din sistemele naturale.

Apoi susții că asocierea dintre ID și God of the gaps ar fi tendențioasă. Eu înțeleg că te-a cucerit Meyer cu argumentele lui, dar asta nu schimbă cu nimic istoria mișcării ID, pe care o găsești într-o mulțime de surse. Nu este ”Discovery Institute” un institut creștin? I rest my case. Americanii inteligenți au realizat că YEC e pentru proști, prin urmare au făcut câțiva pași în spate, rezumându-se la apărarea ”complexității ireductibile”; iar creaționiștii i-au aplaudat, fiindcă dușmanul dușmanului meu este prietenul meu. Cu atât mai mult dacă e creștin. O avea el niște erezii în cap, dar atâta timp cât e salvat de Gizas ca și mine, e fratele meu.

Nu ești de acord cu faptul că adoptarea ID ar duce la dispariția științei, dar singurul argument pe care îl prezinți este acela că mari savanți din trecut au fost creștini. De acord, credința în inteligibilitatea Universului i-a făcut pe savanții respectivi să cerceteze, dar arată-mi una din descoperirile lor care Îl introduce pe Dumnezeu ca explicație științifică. Revezi clipul cu Neil DeGrasse pe care ți-l recomandasem; Newton și ceilalți au înțeles o parte din ”legile naturii”, iar pe Dumnezeu L-au păstrat pentru partea necunoscută și inexplicabilă. Dacă Laplace nu ar fi căutat explicații naturale pentru o bucată din acel ”inexplicabil”, nu ar fi avansat mai departe de Newton.

Szilard postase un status acum câteva zile (care îți plăcuse), în care spunea că oamenii au tendința să divinizeze necunoscutul și să-l identifice cu Dumnezeu. Un antic considera că Dumnezeu se află în spatele oricărui fenomen; un adventist consideră că Dumnezeu se Ceasornicarul care a creat natura și a lăsat-o pe pilot automat, iar acum El se află într-o zonă de supranatural din care intervine din când în când. ID a mai făcut un pas în spate, recunoscând că o mare parte din istoria vieții s-a întâmplat prin interacțiuni naturale (sisteme complexe), lăsându-I loc lui Dumnezeu doar in irreducible complexity. Meyer pare a face încă un pas în spate, păstrând o singură redută de complexitate ireductibilă: saltul dintre precambrian și cambrian. Explică-mi de ce acest demers nu promovează un god of the gaps! Deci accepți că galaxiile, sorii și planetele s-au format natural, accepți că niște salturi uriașe evolutive s-au petrecut între cambrian și prezent, dar consideri că Dumnezeu stă sau cade cu explozia cambriană!

Foarte probabil că neodarwinismul s-a limitat la explicațiile tradiționale, dar asta nu e din cauză că ar fi o ideologie, asemenea YEC-ului. Nu-mi vine să cred că îi compari pe Darwin și Dobzhansky cu McCready Price și Ellen White! E numai uman să refuzi update-ul dacă te-ai atașat prea mult de o teorie; mai ales când vezi că o parte din oponenții ei au motivații religioase ascunse. Dar update-ul se va produce mai devreme sau mai târziu. Foarte probabil, după mai multe cercetări va apare o nouă sinteză care va include și epigenetica, teoria echilibrului punctat (despre care nu mi-ai zis cu ce ți-a greșit) și alți factori care să lărgească înțelegerea sistemului complex al vieții.

72 Responses to Darwin’s Doubt vs. Google – lui George Dumitru

  1. Marcus,

    Foarte interesant și elaborat articolul tău. Acum dreptul meu la replică.

    Tu spui: „ Probabil îmi vei spune că există, totuși, un algoritm inteligent care a stabilit regulile jocului. Dar asta e cu totul altceva decât ID. Programatorul a stabilit legile sistemului, principiul antropic dacă vrei. ”

    După părerea mea, principiul antropic nu are nimic de-a face cu ce vorbim noi aici. Singur ai dedus, totuși, că voi face apel la existența algoritmului matematic care stă în spatele funcționării mecanismului Google ca un indiciu către o inteligență. Nu te-ai înșelat. Conform neodarwinismului, procesul de creștere a complexității genetice și evoluția formelor complexe de viață este un proces strict natural, care nu are și nu trebuie explicat prin recursul la o inteligență primară care pune în mișcare acest proces. Totul este FĂRĂ SCOP, fără prevederea ( foresight ) unor mutații/ variații favorabile iar rezultatele evoluției sunt accidentale. Cu Google nu se întâmplă însă întocmai la fel. Chiar dacă ai dreptate atunci când spui că interacțiunile dintre advertiseri și useri sunt pur aleatorii, obiectivele urmărite de firma Google sunt precise, iar algoritmele matematice complicate care stau în spatele funcționării licitației ptr cea mai bună/căutată reclamă … urmăresc un scop concret: banii din încasări ptr advertising și satisfacerea consumatorului.

    Ce anume te face să afirmi că a produce un algoritm matematic inteligent ( sau cu siguranță mai multe )care stă în spatele funcționării Google „ e cu totul altceva decât ID”?!? ID susține că în spatele oricărui limbaj ( de orice fel de natură, dar mai ales matematic ) care transmite informație funcțională există o inteligență. Încă nu am ajuns în serial la detalii legate de ce reprezintă în mod concret informația funcțională în cazul vieții, ce ai văzut este deocamdată doar o simplă introducere care, la fel ca orice introducere, este destul de superficială. În zilele următoare voi intra în detalii.

    Vorbind de funcționalitatea informației în cadrul vieții, ea este potrivit lui Meyer strict legată de specificitatea ei. Dacă ADN-ul ar conține o secvență improbabilă de nucleotide în care aranjarea acestora nu afectează funcționarea moleculei, atunci schimbările mutaționale aleatorii în secvența acestor nucleotide nu ar avea un efect negativ în ceea ce privește funcționarea moleculei. Dar, desigur, înșiruirea concretă a bazelor de ADN afectează funcționalitatea moleculei! La fel, o schimbare infimă a algoritmului matematic care stă la baza funcționării mecanismului Google ar rezulta în degradare funcțională și lipsă de sens astfel încât căutarea userului ar da un răspuns lipsit de sens. Nu vorbim aici despre randomness-ul interacțiunilor dintre ofertă și cerere, advertiseri și useri. Vorbim despre codul digital care stă în spatele funcționării software-ului care stă la baza programului Google. O schimbare random în acest cod digital ar duce la pierderea de sens al mesajului, ca atare la informație NEfuncțională, iar Google-ul și-ar concedia inginerii ( sau ar da faliment, după caz ).

    Ia de exemplu fraza: „ one if by land and two if by sea” și imagineaz-o ca un cod digital al unui software funcțional. Câteva mici schimbări random de genul celor puse de mine în majusculă în modul următor: „ Ine if bG land and two iK bT Nea ” ar face ca informația să devină non-funcțională și ca atare softwar-ul să devină neoperativ. Dacă ADN-ul funcționează asemănător unui cod digital ca cel de mai sus, adică dacă aranjamentul specific al bazelor din ADN funcționează ca un cod digital, atunci cea mai mică schimbare aleatorie în aranjamentul acestor baze ar afecta funcționalitatea ADN-ului, iar încercări de a genera secțiuni complet noi de text genetic prin mutații random ar fi sortite din start eșecului. Voi intra și mai în detaliu în serialul meu.

    „ Ar fi ID dacă programatorul ar intra în sistem, citind el însuși căutările userilor și recomandându-le el însuși un site util, sau stabilind el însuși o ierarhie a reclamelor în funcție de calitate.”

    Depinde la ce te referi în mod concret când spui „ ar intra ”. E evident că nu vorbim despre o intrare fizică în sistem a programatorului, ci de una virtuală, prin intermediul algoritmilor care „citesc” căutările și „oferă” răspunsurile. Însă dacă la nivel genetic avem asemenea „algoritmi” care stabilesc precis ordinea aminoacizilor într-o secvență de aminoacizi, ordine care permite formarea structurii tridimensionale a proteinelor, șamd… atunci avem indiciul unei inteligențe care SELECTEAZĂ a priori o anume secvență de aminoacizi din trilioane de înșiruiri posibile. Ce zici?

    Am la rândul meu un exercițiu de imaginație ptr tine. Un circuit electronic e compus din mai multe componente, precum condensator, tranzistor, rezistor, etc. Dar asemenea componente nu determină de la ele însele aranjarea lor concretă într-un circuit integrat. Pentru asta este nevoie de un input informațional suplimentar, care nu este aleatoriu, ci precis, urmărind un anume scop. Iar din câte se cunoaște… acel input este rezultatul activității unei inteligențe.

    La fel stă treaba în cazul ADN-ului. Adn-ul singur nu controlează cum se asamblează proteinele în sisteme sau structuri mai largi ( tipuri de celule, țesuturi, organe ) în timpul dezvoltării embrionare. Ci structura tridimensională sau arhitectura spațială a celulelor embrionare joacă un rol important în determinarea formării body-planului respectiv. Cfm neodarwinismului, informația nouă, forma și structura apare prin acțiunea SN care acționează prin mutații aleatorii la nivelul cel mai de jos al ierarhiei biologice- ADN-ul. Dar atât formarea body-plan în stadiul embrionar cât și inovația morfologică de-a lungul istoriei vieții depind de un aranjament genetic la un nivel organizațional mult mai mare decât ADN-ul. E nevoie de mult mai multă informație decât DOAR informația genetică ptr formarea unui body-plan, și anume de informația epigenetică, care nu e stocată în ADN. Ca urmare, a spune că prin acțiunea SN asupra mutațiilor random din ADN pot apărea noile body-plan din cambrian este eronat și insuficient.

  2. „ Deci accepți că galaxiile, sorii și planetele s-au format natural, accepți că niște salturi uriașe evolutive s-au petrecut între cambrian și prezent, dar consideri că Dumnezeu stă sau cade cu explozia cambriană!”

    Nu știu dacă mi-ai urmărit clipul atent, deoarece acolo subliniez faptul că postularea unui inteligent designer nu reprezintă neapărat un recurs la divinitate. Foarte bine s-ar putea ca formele de viață din Cambrian să fie produsele unei civilizații extraterestre extrem de avansate, cu cunoștințe uriașe în genetică și biologie moleculară, nu musai Dumnezeu. Faptul că se invocă o inteligență care joacă un rol în apariia vieții nu este automat un cec în alb pentru o intervenție divină. Asta o spui tu ( sau neodarwiniștii). Eu habar nu am CE FEL de inteligență e în spatele apariției vieții, dacă e divină, klingoniană sau marțiană. Eu cred doar că e o inteligență. Și la o adică am tot dreptul să aleg să cred că e divină. A afirma sau crede așa ceva nu este după părerea mea echivalent cu recursul ieftin și leneș la God of the gaps, ci este rezultatul unei deducții cât se poate de logice. La fel ai face și tu dacă ai vedea într-o emisiune NASA că pe Marte robotul Curiosity a descoperit niște figuri geometrice complexe sau un chip umanoid sculptat cât se poate de clar în piatră.

    „ Nu-mi vine să cred că îi compari pe Darwin și Dobzhansky cu McCready Price și Ellen White!”

    Atât Darwin cât și Ellen White sunt întemeietori de ideologii. Nu aș da vina pe ei în mod neapărat, ci pe cei care se aliază orbește acestor ideologii, împotriva argumentelor puternice care dărâmă stâlpii de bază ai acelor ideologii. Eu dau vina pe neodarwiniști și pe adventiști( sau mă rog, creaționiști ). La momentul actual sunt de părere că ambele curente sunt ideologii, adică au dogme în spatele lor, dogme la care domniile lor nu vor să renunțe, în ciuda oricăror dovezi. În privința neodarwiniștilor, argumentele că TE nu răspunde în forma ei actuală la problema creșterii complexității informației genetice de-a lungul istoriei vieții … sunt foarte puternice.

  3. Marcus Crassus says:

    George, interesant ce zici. Să le luăm pe rând:
    George Dumitru spune:

    Conform neodarwinismului, procesul de creștere a complexității genetice și evoluția formelor complexe de viață este un proces strict natural, care nu are și nu trebuie explicat prin recursul la o inteligență primară care pune în mișcare acest proces. Totul este FĂRĂ SCOP, fără prevederea ( foresight ) unor mutații/ variații favorabile iar rezultatele evoluției sunt accidentale.

    Neodarwinismul propune un mecanism explicativ, dar nu e treaba lui să îți spună dacă procesul are sau nu un scop, sau dacă este aleatoriu sau nu. Pentru un determinist, nimic nu e aleatoriu. Howard Pattee spune că ”nu ar trebui să pierdem timpul argumentând dacă lumea în sine este deterministă sau stochastică, din moment ce aceasta reprezintă o întrebare metafizică al cărui răspuns nu poate fi decis în mod empiric.”
    La fel stau lucrurile și cu ”scopul”. Poți crede în existența unui scop, dar nu îl poți găsi tu însuți.

    Dacă ADN-ul funcționează asemănător unui cod digital ca cel de mai sus, adică dacă aranjamentul specific al bazelor din ADN funcționează ca un cod digital, atunci cea mai mică schimbare aleatorie în aranjamentul acestor baze ar afecta funcționalitatea ADN-ului, iar încercări de a genera secțiuni complet noi de text genetic prin mutații random ar fi sortite din start eșecului.

    Păi prin argumentul ăsta tu negi cu totul teoria evoluției. Parcă spuneai că e vorba doar de explozia cambriană! Jerry Coyne oferă o mulțime de exemple de mutații benefice care s-au perpetuat. Nu există varietate în cadrul gene pool-ului unei specii? Nu există drift genetic și mutații neutre care se întâmplă la fiecare individ? Nu ai experimentul cu E Coli în care ”secțiuni complet noi de text genetic” au fost incorporate pas cu pas în genom? Nu ai tranziția foarte clar documentată de la reptile la păsări? Și aici invoci ID?

    Adn-ul singur nu controlează cum se asamblează proteinele în sisteme sau structuri mai largi ( tipuri de celule, țesuturi, organe ) în timpul dezvoltării embrionare. Ci structura tridimensională sau arhitectura spațială a celulelor embrionare joacă un rol important în determinarea formării body-planului respectiv. Dar atât formarea body-plan în stadiul embrionar cât și inovația morfologică de-a lungul istoriei vieții depind de un aranjament genetic la un nivel organizațional mult mai mare decât ADN-ul. E nevoie de mult mai multă informație decât DOAR informația genetică ptr formarea unui body-plan, și anume de informația epigenetică, care nu e stocată în ADN.

    Bun, cu asta nu ai demonstrat decât că sistemul complex are o componentă epigenetică, despre care acum aflăm mai multe. De ce să faci apel la homunculus, când știi că sistemele complexe se auto-determină prin interacțiuni?

    Nu vorbim aici despre randomness-ul interacțiunilor dintre ofertă și cerere, advertiseri și useri. Vorbim despre codul digital care stă în spatele funcționării software-ului care stă la baza programului Google. O schimbare random în acest cod digital ar duce la pierderea de sens al mesajului,

    Nu neapărat. O schimbare random ar putea aduce niște beneficii suplimentare uneia dintre părți, caz în care ar fi perpetuată. Poți vedea toate motoarele de căutări ca fiind competitori care testează diferite variante de cod. Niciunii nu pot prevedea care va avea cel mai mare succes; piața decide aceasta, forțându-i pe unii să dea faliment și perpetuând software-ul altora.Tehnicile de supraviețuire sunt date mai departe de supraviețuitori, așadar noile motoare vor folosi tehnologia care s-a dovedit viabilă șamd.

    Exemplul nu e perfect întrucât implică factorul uman; de aceea vorbisem despre ecosisteme, care sunt sisteme complexe guvernate de legi în care nu există nicio inteligență. Simpla interacțiune dintre elemente transformă complet mediul natural în timp (se schimbă temperatura, apar glaciațiuni, speciile evoluează), astfel încât trăsăturile selectate în trecut (natural sau sexual) pot deveni inutile sau nocive, iar alte trăsături să devină favorabile. Asta înseamnă o schimbare în timp a ”codului digital care stă în spatele funcționării” ecosistemului; înseamnă fix schimbarea regulilor, bineînțeles, cu prețul extincției unor specii.

  4. Marcus Crassus says:

    Faptul că se invocă o inteligență care joacă un rol în apariia vieții nu este automat un cec în alb pentru o intervenție divină. Asta o spui tu ( sau neodarwiniștii). Eu habar nu am CE FEL de inteligență e în spatele apariției vieții, dacă e divină, klingoniană sau marțiană. Eu cred doar că e o inteligență.

    Și de ce invoci inteligența extraterestră / divină doar în cazul tranziției precambrian – cambrian? De ce nu o invoci în apariția aripilor păsărilor, a ochiului, a mitocondriei sau a speciei umane? Doar astea sunt exemplele favorite ale multor proponenți ID. Mai departe, referitor la clipul lui Neil DeGrasse Tyson: de ce nu invoci ID acolo unde l-a invocat Newton sau Kepler?

    La fel ai face și tu dacă ai vedea într-o emisiune NASA că pe Marte robotul Curiosity a descoperit niște figuri geometrice complexe sau un chip umanoid sculptat cât se poate de clar în piatră.

    Astea ar fi artefacte culturale, e cu totul altceva. Când vezi o reprezentare grafică, ai deja o explicație familiară cu care să o asociezi. Când vezi o structură complexă, nu e neapărat nevoie să invoci un ”head honcho” tocmai pentru că știi că alții au făcut greșeala asta în trecut și i-a condus la plafonare, pe când alții au reușit să înțeleagă procesele din spatele structurii mistificate.

  5. polihronu says:

    De ce va pierdeti timpul cu Meyer pe un subiect in care nu are nicio competenta? Si cind cititi Andreas Wagner?

  6. Andreas Wagner stă la coadă. Deocamdată citesc Jerry Coyne. Dar afirmația că Meyer nu ar avea nicio competență în subiectul despre care vorbim nu o găsesc întemeiată.

  7. polihronu says:

    http://www.skepticblog.org/2013/08/28/stephen-meyers-fumbling-bumbling-amateur-cambrian-follies/
    http://recursed.blogspot.co.uk/2009/10/stephen-meyers-bogus-information-theory.html (and many other posts on this blog) etc etc etc

    Nu-l poti tine pe Wagner la coada in timp ce predici din Meyer decit daca vrei sa fii Cristescu predicind din Yancey, in timp ce il ignori pe Bart Ehrman.

  8. ge2oana says:

    Razboiul dracului….

    Ai dracu´ englezi, cu mama lor de Darwin si cu tot neamu´ lui !!

    A dracului societate britanica&straina care l-a nacut-crescut p´alde Dawkins&voce sintetica ca sa bage za(N)zanie intre oamenii placuti Lui !

    Se apropie sesiunea GC ! Caldura mare, bani multi, viata buna, pensii pe masura .

  9. Ianis says:

    Despre specialistii in evolutie citati de fanii ID:

  10. Poli, mersi ptr linkuri. Poate că ai dreptate în comparația pe care ai făcut-o. DIn păcate, nu le pot face pe toate deodată. Ce este cert în ceea ce mă privește, este că nu ezit să mă resetez dacă argumentele vreunei părți sunt foarte puternice. Nu sunt legat de nicio ideologie, nici măcar ID. Doar că ăsta e stadiul meu deocamdată. Cheers.

  11. polihronu says:

    „ăsta e stadiul meu deocamdată”

    Not good enough. Cu ce ochi ai privi un adept al Flat Earth Society care predica azi din Rowbotham si zice „asta e stadiul meu deocamdata”?

  12. Eric T. says:

    „Nu sunt legat de nicio ideologie, nici măcar ID. Doar că ăsta e stadiul meu deocamdată.”

    Asta este cumva scuza pentru ignoranta deliberata?

  13. „ Not good enough ”

    Asta este o afirmație arogantă. Tu, sau mă rog… neodarwiniștii, sunt mai buni și mai dăștepți ca fraierii ăia de la ID. Pe mine mă lasă rece vechea mentalitate „ a fi mai bun ca alții” sau, eventual, „ a fi mai dăștept ca alții”. Nu stadiul meu este scopul final urmărit de mine, ci adevărul. Deocamdată nu mi-ai dărâmat cu argumente puternice argumentele lui Meyer. Doar te-ai limitat să-mi spui că mai am de „crescut”. Foarte bine, poate că ai dreptate. Poate că nu. Dar cu abordări de-astea nu mă poți convinge, ci cu argumente. Deocamdată, singurul lucru util pe care îl faci este să mă trimiți în tabăra „cealaltă” ca să ascult argumentele contrarii lui Meyer. Exact asta fac. Timpul îmi va spune dacă tabăra darwinistă are argumente mai puternice sau dimpotrivă. Deocamdată… tot ce citesc din partea lor, și recunosc că nu am citit suficient, nu mă convinge.

  14. La fel ca în cazul șahului, comparația cu anunțurile „sponsorizate” de pe Google se potrivește ca nuca în perete. Dacă băiatul ăsta nu este plătit de G for this sweet kiss in the Google’s tushy, este complet idiot.

    Plain facts, now:

    Google este un monopol ce ar fi trebuit să aibă, de mult, soarta Standard Oil. Doar că ori nimeni în US nu mai are boașe, ori e ca la noi, industriile inovatoare sunt folosite la finanțarea „băieților”. Faptul că a ajuns în această poziție nu e doar rezultatul inteligenței celor de la G, ci și infinitei stupidități a concurenților, precum, în primul rând, Yahoo!, care în loc să caute oameni talentați și inteligenți să conducă firma, au de aplicat politici de affirmative action; nici Microsoft și restul nu au acționat mai inteligent. Dar, una peste alta, avem concentrate în aceeași firmă și un motor de căutare (întâmplător pe primul loc), un serviciu de webmail (tot întâmplător, tot pe primul loc), o bibliotecă imensă (tot cea mai mare, dar cu mari probleme de copyright), un serviciu de videosharing (care nu mai e de mult doar asta, tot cel mai mare), un browser (foarte bun, după mine), un sistem de operare (OS) (tot cel mai folosit pe categorie, absolut întâmplător) și niște servicii de publicitate (foarte bune, iarăși, și pe primul loc). Buuun. Sunt fan Google. Dar,

    – folosește motorul de căutare, emailul, yt etc. pentru a strânge date, ceea ce nu e ok, chiar dacă cretinii ăia ce se numesc politicieni nu legiferează în acest domeniu;
    – folosește datele astfel adunate pentru a vinde servicii;

    Ce e în neregulă? Monopolul. Aici nu vorbim de poziție dominantă, aia e joacă de copii față de poziția G în piețele în care acționează. E rău că o face? Eu deocamdată nu aș ieși să fac miting contra lor. Au făcut exact ceea ce prostia competitorilor și a politicienilor le-a permis să facă. Și, față de alți deținători de monopoluri, nu au scăzut standardele.

    ***
    Acum, aplicat:

    „All you have to think about is the Google ad auction to realize you can have a system that looks like someone is in charge, but no one is.”

    Ce omuleț de paie interesant…

    „The ad auction has three selfish parties to please”

    Asta e un fel de Marx pentru clasa a treia de la liceul agricol.

    „the user who wants relevant ads so he doesn’t waste time”

    Userii vor reclame? Come on…



    … (e plictisitor să comentez toate enormitățile din text)

    „Google wants to be sure that the ads shown to users have a high quality.”

    Asta zici că e copiată din pliantul pentru IPO… Iar „quality” a apărut în discuție pe o ușă secretă.

    „Quality is judged on three components.”

    Odată adus pe scenă, se face analitica stupidă a lui deus ex machina…


    „The most important is the click-through rate. Thus every time that a user clicks an ad, he votes on it.”

    O reclamă niciodată afișată nu poate fi, cu necesitate, decât la 0 la acest parametru, înrucât niciun user nu poate clickui pe ceva ce nu există 🙂 Ceea ce face ca tot ce spune nenea ăsta mai sus să devină ridicol.

    „The third component is the advertiser’s landing page quality, which should be relevant, easily navigable, and transparent.”

    Care analiză este făcută de spiders ce pot fi foarte ușor „păcăliți” de ăia ce se preocupă să-și facă pagina Google-friendly; și dacă tot bagă bani în asta, nu mai plătește omul să apară în rezultate sponsorizate, că s-au învățat și userii că alea sunt reclame, ci investește să apară printre primele la „organice”.

    „Ad rank is determined by the bid multiplied by the page quality.”

    Cam ăsta e genul de concluzie la care ajungi când nu ai studiat niciodată cum funcționează o simplă licitație și ce minunății „emerg” de acolo.

    „As Google’s chief economist points out, the most productive interaction results.”

    Ori a luat bani de la G, ori a făcut școala în Europa de Est și e învățat să dea citate din „tovarășul” 🙂

    „The system, while appearing to be run by a single controller, runs without one, by an algorithm.”

    Un om ce poate emite propoziția asta, dacă-i arăți o mașină de treierat sau de egrenat, se va închina ei, crezând că e zeul însuși.

  15. polihronu says:

    „Asta este o afirmație arogantă”

    Arogant e sa desenezi tabere acolo unde nu-s, si sa te declari neconvins fara sa asculti.

  16. Marcus Crassus says:

    gigialuarvinte,

    „Ad rank is determined by the bid multiplied by the page quality.”

    Cam ăsta e genul de concluzie la care ajungi când nu ai studiat niciodată cum funcționează o simplă licitație și ce minunății „emerg” de acolo.

    http://blog.hubspot.com/marketing/adwords-ad-rank-formula-what-to-know-ht

  17. sonatalunii says:

    @Gigi

    Total de acord! Bine ca ati intervenit, ca dacă as fi spus eu, iar ar fi zis Marcus ca am ceva cu el. Google nu este tot artifact? Orice este creat de om este artifact, fie ca e șah, Google, Mona Lisa sau simfonia „Eroica”. Dacă n-ar fi fost create de om, acestea nu ar fi existat , ca doar ele nu cresc in copaci si nici nu evoluează din gândaci.

  18. Marcus Crassus says:

    „The system, while appearing to be run by a single controller, runs without one, by an algorithm.”

    Un om ce poate emite propoziția asta, dacă-i arăți o mașină de treierat sau de egrenat, se va închina ei, crezând că e zeul însuși.

    In primul rand, Gazzaniga e ateu, nu afirma nicaieri ca anumite procese ar fi magice. In al doilea rand, specialitatea lui sunt neurostiintele; spre deosebire de altii din breasla lui, cum ar fi de ex. Sam Harris, Gazzaniga nu e obsedat de determinism; este preocupat de interdisciplinaritate si intelege ca stiintele complexitatii au adus importante schimbari de paradigma. Nefiind specialist in teoria haosului sau in sisteme complexe, Gazzaniga ofera doar un overview si citatele unor savanti specializati in asa ceva. Daca vrei sa inveti ceva nou, poti studia direct de la sursa, desi e mai comod sa stai la umbra conceptiilor pe care le ai deja.

  19. Marcus Crassus says:

    poli,
    O sa ma apuc de cartea lui Wagner imediat ce fac rost de ceva timp liber.
    Am citit recenziile din linkurile pe care le-ai postat, sunt ambele foarte tari. Banuiam ca modul in care defineste Meyer „informatia” e un red herring.

  20. @ MC

    Ai dat link către o descriere a modificărilor făcute de G. Și?

    Îți explic ca la copii:

    ad rank = cpc bid x quality score (AR=CPCB x QS)

    „quality score definition: An estimate of the quality of your ads, keywords, and landing page.” (sursa: https://support.google.com/adwords/answer/140351?hl=en)

    „The components of Quality Score [are] expected clickthrough rate, ad relevance, and landing page experience.” (ibid.)

    „How the components of Quality Score affect Ad Rank

    Every time someone does a search that triggers an ad that competes in an auction, we calculate an Ad Rank. This calculation incorporates your bid, auction-time measurements of expected CTR, ad relevance, landing page experience, and other factors. To determine the auction-time quality components, we look at a number of different factors. By improving the following factors you can help improve the quality components of your Ad Rank:

    Your ad’s expected CTR: This is based in part on your ad’s historical clicks and impressions (excluding factors such as ad position, extensions, and other formats that may have affected the visibility of an ad that someone previously clicked)
    Your display URL’s past CTR: The historical clicks and impressions your display URL has received
    The quality of your landing page: How relevant, transparent, and easy-to-navigate your page is
    Your ad/search relevance: How relevant your ad text is to what a person searches for
    Geographic performance: How successful your account has been in the regions you’re targeting
    Your targeted devices: How well your ads have been performing on different types of devices, like desktops/laptops, mobile devices, and tablets.” (sursa: https://support.google.com/adwords/answer/2454010)

    QS = Your ad’s expected CTR x Your display URL’s past CTR x The quality of your landing page x Your ad/search relevance x Geographic performance x Your targeted devices

    Acum ți le explic pe rând:

    Your ad’s expected CTR – cam câți bani estimează G că va scoate dacă-ți afișează rezultatul sponsorizat (mai simplu spus, câți bani a făcut până acum de pe urma ta, ponderat cu coeficientul de poziționare)

    Your display URL’s past CTR – câți bani a câștigat G de la tine

    The quality of your landing page – bla-bla-bla; nu navighează pe pagina ta decât spiders, care au un algoritm pe baza densității de keywords și a altor câteva criterii, similare celor ce compun algoritmul de căutare principal; de fapt, cât ai investit să-ți faci pagina google-friendly, adică cât de google-dependent ești (ceea ceînseamnă câți bani face de pe urma ta prin alte servicii/produse)

    Your ad/search relevance – asta e pentru idioții care întreabă de ce nu se afișează reclama lui la șosete la o căutare după „ciorapi”, deși el nu a inclus ciurapi la keywords…

    Geographic performance – asta e pentru tâmpiții care se întreabă de ce nu le apare reclama la Hard Rock Cafe Amsterdam în urma unei căutări din România, ci crâșma omonimă din Herăstrău…

    Your targeted devices – asta e pentru stupizii ce nu pricep de ce e mai probabil că dacă dai căutare de pe mobil după Hard Rock Cafe e mai probabil să-i cauți adresa decât pe vânzătorul de francize.

    Deci, dacă excludem ultimele trei, care sunt filtre antiproști, avem așa:

    QS = money spent on G sponsored results (expected) X (actual) money spent on G sponsored results X money spent on G in other way.

    Revenind:

    AR=CPCB (câți bani ai licitat) x QS (câți bani ai plătit deja x câți este probabil să cheltui)

    ***
    Povestea lui Larry Kim este o știre despre o „rafinare” a algoritmului prin introducerea unui nou parametru – Ad Extensions = how many google stuff you swallow. Ceea ce e bine, pentru că G face aplicații serioase, așa că un small business chiar are de profitat prin asta, va avea reclame mai puțin plictisitoare. Am zis că-s „fan” Google. Este cel mai decent jucător aflat în poziție de monopol din istorie (sau cel puțin din câtă istorie a economiei știu eu), mult peste biserică, de exemplu.

    ***

    Dacă vrei să pricepi ce-am vrut să zic cu a studia cum funcționează o licitație m-am referit la ceea ce probabil că nu ți-a reținut niciodată atenția, și anume tipurile de licitații. Pe Internet se folosește de mult – nu e Google pionier, doar un „hoț” inteligent – licitația prin depunere de oferte (cam cum s-a făcut la vânzările eșuate de la Oltchim și CFR Marfă), numai că de un tip special, folosit la greu de eBay și numit proxy bid (http://en.wikipedia.org/wiki/Proxy_bid).

    La rezultate sponsorizate e un proxy bid cu rabat comercial (discount de volum). Îți explic pe scurt: dacă eu fac ciorapi și tu cumperi 3 perechi, ți le dau cu 2 lei. Dacă facem contract de 1000 de perechi pe lună ți le dau cu un leu. Dacă îmi cumperi toată producția în fiecare lună ți le dau cu prețul de cost x ~106.

    ***

    Dar problema e alta, nu că omul ăla n-a priceput nimic din linkurile sponsorizate (a, btw, dacă-i văd cuiva afacerea acolo ăla intră direct la alcachofa de laon și cordyceps sinensis și alte instabulburi și teleshoppinguri). Problema este ce anume emerge aici? Ce anume există nou care nu exista deja?

  21. Sonata,

    Problema nu mai e nici măcar dacă e artefact sau nu, ci dacă e unul scăpat din mână, devenit autonom sau nu.

  22. „In primul rand, Gazzaniga e ateu, (…) desi e mai comod sa stai la umbra conceptiilor pe care le ai deja.”

    Nu credințele lui erau în cauză, ci IQ-ul. Simplu. Lipsa de înțelegere a unor lucruri simple și aroganța de a vorbi, totuși, despre ele.

    Răspunsul la propoziția asta: „The system…” se află în Sein un Zeit, secțiunea 6 (sarcina de a deconstrui istoria ontologiei). Nu confunda pe a fi cu a fi prezent. Există un om acolo. Și nu unul singur, ci mulți. Poate că ei între timp au murit, dar sunt tot acolo.

    ***

    Și care sunt acele concepții?

  23. @ MC

    Mai este un răspuns, deocamdată în moderare din pricină de linkuri multe. (A se șterge după citire.)

  24. sonatalunii says:

    Gigi,
    Da, nici eu nu cred ca Google a scăpat ceva de sub control, si nici ca automatizarea si autonomia sunt același lucru. Chestia cu artifact-ul am amintit-o deoarece atât articolele trecute cu șahul cât si asta cu Google a generat discuția între ED si MC cu privire la agentul inteligent.

    Cand ED spune: „La fel ai face și tu dacă ai vedea într-o emisiune NASA că pe Marte robotul Curiosity a descoperit niște figuri geometrice complexe sau un chip umanoid sculptat cât se poate de clar în piatră.”

    MC Răspunde: „Astea ar fi artefacte culturale, e cu totul altceva.”

    Ca si cum Google, dacă nu are codul scris pe peretele unei peșteri, nu este artifact. Ceea ce băieții ăștia luminati nu realizează este ca oridecate ori aduc exemple ca cel cu șahul sau Google ca modele ale Universului, nu fac nimic altceva decât sa se împuște singuri in picior.

  25. O adresa bitcoin este o functie Hash. Adresele bitcoin sunt generate aleatoriu. Northlite a vrut o adresa in care primele litere sa fie oxigen2. Asta este 41 bits. Computerul a lucrat doua saptamani generand 19 milioane adrese pe secunda (fiecare adresa este 160 bits) strict aleatoriu, pana a gasit o adrasa: 1oxigen2uDo97a9Xsk4zfaFjyFrEeNJYr, continand grupul de litere oxigen2. Observati grupul oxigen2 dupa prima cifra 1. Probabilitatea este (corectati-ma daca gresesc) 10^-12.

  26. Marcus Crassus says:

    @gigialuarvinte,

    Multumesc pentru raspunsul detaliat. Inteleg ca Gazzaniga a tratat superficial subiectul si si-a dat cu parerea inainte sa-l fi inteles, dar concluzia lui imi pare valida in continuare

    The beauty of the design is that the selfish motives of each party are harnessed and, voila! As Google’s chief economist points out, the most productive interaction results. The system, while appearing to be run by a single controller, runs without one, by an algorithm

    Exemplele pe care le-am dat, Google si Game of Life (despre care nu mi-ai mai zis nimic), s-ar incadra la Weak emergence, de aceea am spus ca analogia e limitata. Asadar, nu e nevoie ca tool-ul sa scape de sub control pentru a putea fi exemplu de emergenta.
    Ideea e ca fara o inteligenta umana care sa proceseze datele si sa faca judecati de valoare, algoritmul reuseste sa medieze dinamic relatiile dintre o multime de actori pe baza unor formule. Un set de ecuatii legate de parametri dinamici e suficient pentru a genera o afacere extrem de profitabila si un urias panopticon pe deasupra.
    Cu faptul ca panopticonul lui Bentham e un exemplu de weak emergence esti de acord? Exact la fel e si Google; un algoritm dinamic e mult mai eficient pt. controlul maselor decat paznicii sau politia politica.

    Cand vine vorba despre strong emergence, gasesti exemple in natura si sunt sigur ca tu insuti poti oferi o multime de exemple. Sau totul e ID?

    P.S. Ti-am raspuns la „Pozitia de supunere”, scuze pt. intarziere.

  27. sonatalunii says:

    @Edi

    Este interesant experimentul lui NorthLite. Care ar fi aplicația? Ca asa lucrează si natura? Eu as întreba ce șanse ar fi ca un computer sa ofere o astfel de adresa unuia care nu a cerut nimic deosebit, ci doar are nevoie de o adresa de Bitcoin? Abia atunci am putea face analogie cu lumea naturală.

  28. sonatalunii says:

    Corecție: șansa ar fi aceeași, sorry.

  29. sonatalunii,

    Eu nu neg idea de finalitate in natura, ci doar notiunea de manipulare mecanicista a naturii. Accept distinctia Aristoteliana/Tomista intre cauza finala si cauza eficienta. Ceea ce sustin este ca (pardon de cacofonie) cauza eficienta este probabilistica/nelineara.

    In cazul exemplului cu bitcoin, computerul a lucrat aleatoriu doua saptamani (cauza eficienta), programul a selectat rezultatul asteptat (cauza finala).

    In cazul evolutiei, atat modificarile din mediu cat si cele genetice sunt aleatorii. Mecanismele de selectie, selectia naturala, selectia sexuala, sau chiar selectia culturala, aleg adaptarea optima.

    Cred ca problema noastra este ca pretindem ca intelegem ceea ce nu intelegem, adica planul lui Dumnezeu cu viata si universul, cauza finala si nu acceptam ca putem intelege cauza eficienta, adica mecanismul evolutiei. Cauza eficienta asa cum o cunoastem rastoarna prejudecatile noastre despre cauza finala. Mai intelept ar fi sa le abandonam.

  30. @ MC

    „Inteleg ca Gazzaniga a tratat superficial subiectul (…) dar concluzia lui imi pare valida in continuare”

    De genul ăsta de oameni mă tem cel mai tare. Nu contează procesul, nu contează (poli)silogismul, concluzia să fie validă! Sunt oamenii care pot să ucidă milioane fără să clipească. Și, dacă-i scapi în logică modală, îți adaugă și un „este necesar” ca Socrate să moară, doar e muritor…

    „Exemplele pe care le-am dat, Google si Game of Life (despre care nu mi-ai mai zis nimic), s-ar incadra la Weak emergence, de aceea am spus ca analogia e limitata.”

    La Google e un simplu algoritm, o funcție cu mai multe variabile. Se poate calcula cu un polinom simplu. Doar că nu ai acces la cifrele la care s-au încheiat licitațiile anterioare. Poți determina pentru competitorii tăi direcți, în timp, prezumând, în funcție de apariția sau nu a reclamei tale, că cel care a apărut, caeteris paribus, a licitat mai mult. Dar trebuie să apară cel puțin de două ori și reclama ta, pentru a obține o funcție căreia să-i poți face apoi prima derivată. Iar asta cere timp și bani, ceea ce small business nu au disponibil pentru așa ceva.

    Asta e și în atenția lui @Sonata Lunii.

    Dar lucrul asupra căruia îți atrăgeam atenția este altul: atitudinea față de „automaton”. Ăsta era clue-ul trimiterii la Heidegger. Simțul comun (și Gazzaniga pe urma lui) consideră că un om nu poate să facă ceva decât direct, dacă este prezent acolo unde se face ceea ce este făcut. Ceea ce e fals. Faraonul îi omoară pe toți copiii evreilor cu excepția lui Moise, chiar dacă decizia este actualizată de diferiți soldați (care, moral, pot să fie sau nu vinovați de ascultarea orbească a unui ordin, dar nu de uciderea copiilor evrei).

    Programatorii care scriu un soft cu un singur și banal „if” decid în fiecare moment al rulării funcției ce anume va face mașina, nu decide mașina nimic. Chiar dacă ei au murit de mult, sau nu sunt prezenți lângă mașină. Ține de paradoxul alegerii (de fapt al libertății, dar expresia aia a căpătat alte conotații): sunt obligat să aleg, cel puțin între a alege și a nu alege. E o problemă de creativitate, de nodul gordian sau de oul lui Columb. Un nod poate fi desfăcut în multe feluri, și poți crea un automaton de dezlegat noduri; poate că va găsi cele mai bune căi de a-l dezlega, dar niciodată nu-i va trece prin minte să-l taie; poate un alt automaton va găsi posibilitatea să așeze oul într-un echilibru perfect, dar niciodată să-l spargă; dacă i se va introduce posibilitatea de a le tăia sau sparge, va face asta întotdeauna, pentru că e mai economic; dacă intri și adaugi o condiție că nu se poate tăia/sparge decât dacă nu reușește să-l dezlege/echilibreze va intra în buclă, astfel că va trebui să-i precizezi o limită de timp. Cam ăsta este nivelul de „autonomie” și de „randomness” al oricărei automata. Poți rafina oricât algoritmul, dar decizia o ia întotdeauna ce-l ce programează automaton-ul, mai precis cel ce face descrierea variantelor dintre care mașina are de ales.

    De fapt, toate aceste probleme au fost formulate și înțelese, mai bine sau mai prost, și în istoria religiilor, și în cea a filozofiei.

    Eroarea lui Gazzaniga este că părăsește metalimbajul în care se află pentru un nivel inferior de limbaj și apoi se miră stupid și pontifică: „emergență!”. Dacă rămâi la nivelul de limbaj în care a fost efectuată programarea, nu mai emerge nimic, totul este „vizibil”.

    „Ideea e ca fara o inteligenta umana care sa proceseze datele si sa faca judecati de valoare, algoritmul reuseste sa medieze dinamic relatiile dintre o multime de actori pe baza unor formule.”

    Faci o gravă confuzie de limbaj. Nu e vorba de judecăți de valoare, precum cele etice sau estetice aici. Valoarea are sens strict matematic, este ceva strict cuantificabil. Procesarea datelor ține de viteza de computație, nu de inteligență. Și nu sunt decât doi actori – firma ce vrea să se advertizeze și Google. Userii sunt aduși în discuție din rațiuni de marketing, în pliante. Ei au făcut deja toate gesturile relevante (adică google le știe limba, locul în care se află, dacă au mai cumpărat online, ce preferințe au în zeci sau sute de domenii etc.), acestea au fost indexate și userii au devenit simplă statistică în momentul în care se declanșează licitația. Sunt un fel de mână moartă, iar G te scutește de oboseala de a ține și tu cont de ei – ține el pentru a-și maximiza profitul.

    Ca și în cazul rezultatelor de la căutarea simplă, G se străduiește să ne dea impresia că pagina de rezultate este ceva ce nu există, ceva ce generăm noi când scriem un cuvânt în căsuța respectivă. Numai că asta e fals – chiar și în cazul Google News (rezultatele alea ce îți apar sub eticheta „In the News” sau „În știri”), care nu face altceva decât să schimbe frecvența vizitelor spiderilor și viteza de indexare. Nu e nimic complex și nici dinamic. O licitație nu e cu nimic mai complexă dacă are 2 miliarde de ofertanți față de una cu 5. „Dinamica” e așa: obține maximum de profit din fiecare poziție de reclamă!, o foarte sănătoasă filozofie de business, altminteri.

    ***
    Despre game of life sau panopticon o să-ți spun, la fel, că aceste probleme au fost deja puse și analizate pe toate părțile atât în istoria religiilor, cât și în cea a filozofiei. Iar eu nu mă cred mai deștept decât ăia ce au trăit înaintea mea.

  31. „ Programatorii care scriu un soft cu un singur și banal „if” decid în fiecare moment al rulării funcției ce anume va face mașina, nu decide mașina nimic.”

    „ Este interesant experimentul lui NorthLite. Care ar fi aplicația? Ca asa lucrează si natura? Eu as întreba ce șanse ar fi ca un computer sa ofere o astfel de adresa unuia care nu a cerut nimic deosebit, ci doar are nevoie de o adresa de Bitcoin? Abia atunci am putea face analogie cu lumea naturală.”

    Exact astea sunt și argumentele lui Meyer. EL spune că probabilitatea ca un mutational trial să genereze ( sau găsească ) o proteină specifică funcțională ( care formează eventual o genă ) în secvențe lungi de 150 de aminoacizi ( iar asta e doar o lungime modestă a unui lanț de aminoacizi) este de 1 la 10 la puterea 77! Pentru a ilustra această dificultate, Meyer compară probabilitatea unor mutații random din precambrian de a produce înșiruirea specifică de aminoacizi menționată mai sus cu probabilitatea ca un înotător orb aflat în mijlocul unei piscine să găsească scara de ieșit afară. Numai că piscina e de dimensiunile căii Lactee! În tot acest demers, el nu trebuie să fie călăuzit de nimeni, așadar nu știe în ce direcție este scara și nu știe cum să ajungă acolo. Dacă la aceste inconveniente mai adăugăm în piscină și câțiva rechini ( efectele purificatoare ale selecției naturale ) șansa de a ajunge cu bine la scară este logic și mai infimă.

    În experimentul lui Northlite, el a cerut o adresă concretă care să fie căutată de computer, iar acesta a căutat 2 săptămâni… Însă așa cum este explicată evoluția de neodarwiniști, natura nu cere din start adresa exactă ( configurarea de aminoacizi exactă dintr-un vast spațiu combinatorial posibil ) a unei proteine stabile și funcționale. Aia e găsită pur și simplu întâmplător. Cfm lor, evoluția nu are prevedere, nu știe ce caută și care este rezultatul final al căutării. De aceea, orice asemănare cu o căutare INTELIGENTĂ de tip Northlite sau Google, în care ținta concretă era deja prestabilită, nu-și are sensul.

  32. Marcus Crassus says:

    @gigialuarvinte,
    Raspunsul i l-am dat la lui sonatalunii in comentariile de la „random vs. random”. Computerul nu e doar o extrapolare a mintii umane, fiindca odata adusa la existenta aceasta platforma externa, aceasta depaseste sfera de agency a programatorilor. Ii dadusem lui sonatalunii exemple de algoritmi parametrici care definesc functii complexe, intre care pot avea loc apoi diferite operatii. Programatorul, in acest context, e un simplu copil care se joaca literalmente cu uneltele, fara sa stie care va fi rezultatul. In game of life asta devine evident – computerul pur si simplu repeta aceeasi functie la nesfarsit, iar programatorul observa in real time schimbarile, fara sa aiba habar unde se va ajunge. Ca sa nu ma acuzi ca vorbesc in necunostiinta de cauza, mentionez ca am facut cursuri de Grashopper si Maya, am realizat proiecte folosind aceste unelte, am creat forme pe care nici macar nu le-as fi putut vizualiza mental in absenta unei platforme virtuale. Poate exemplul cu google nu a fost cel mai fericit.

    Later Edit:

    Meteorologists collect huge amounts of data from the natural world: temperature, pressure, wind speed, wind direction, etc., and process this data to produce accurate weather forecasts. So the information they collect is „specified” (in that it tells us whether to bring an umbrella in the morning), and clearly hundreds, if not thousands, of these bits of information are needed to make an accurate prediction. But these bits of information do not come from a mind – unless Meyer wants to claim that some intelligent being (let’s say Zeus) is controlling the weather.

    la fel cum un meteorolog preia „informatii” din mediul natural, un computer le poate prelua ca parametri intr-un algoritm dinamic, si de multe ori chiar asta face. Inca o dovada ca nu este o simpla extrapolare (crestere incrementala) a mintii umane.

    @George Dumitru,
    Ce parere ai de replicile pe care ti le-a recomandat Poli? In special urmatorul link:
    http://recursed.blogspot.co.uk/2009/10/stephen-meyers-bogus-information-theory.html

  33. Marcus Crassus says:

    gigialuarvinte si George,

    Ce parere aveti despre documentarul urmator? Atinge o multime de subiecte, de la fractalul lui Mandelbrot pana la teoria evolutiei si simularea ei computerizata (vedeti ultimele 10 minute pt. asta)

  34. sonatalunii says:

    @Edi

    Sunt de acord ca prejudecățile de orice natura sunt o piedica in calea cunoașterii. Dar ce altceva decât prejudecata este ideea ca nu exista nici Dumnezeu si nici cauza finala (nu pun asta in contul Dvs.)? Acum, dacă Dumnezeu nu muta (si n-a mutat niciodată) atomi, înseamnă ca nu a creat nimic si ca materia este veșnica. Asta ne duce la diferitele teorii cosmologice de tip ciclic (oscillating Universe) care pe lângă faptul ca sunt doar in stadiul de ipoteze, sunt pândite din umbra de sceptrul filozofiei care cere un răspuns la întrebarea „why is there something rather than nothing?”. Parerea mea, foarte umila, este ca Dumnezeu a mutat, si muta, atomi, dar eu nu știu detalii de tipul ce, cum, cand. Este posibil ca ceea ce noi numim „random mutations” , Lui sa-i fi fost cunoscute încă înainte de întemeierea lumii.

  35. Marcus Crassus says:

    sonatalunii,
    Iti recomand si tie documentarul. E interesant ce zice un savant prin minutul 56-57, referitor la ce spui.

  36. sonatalunii says:

    Marcus eu credeam ca ma eviti intentionat… 🙂

  37. polihronu says:

    „Exact astea sunt și argumentele lui Meyer”

    Numai ca argumentele astea au fost spulberate de multi, printre care, elocvent, de catre Wagner. Pe care, slava domnului, n-ai timp sa-l citesti.

  38. sonatalunii says:

    ED,

    Ce am înțeles eu din exemplul cu adresa bitcoin si argumentul adus de Edi este ca șansa de a ajunge la o adresa ca aceea este aceeași, fie ca ceri adresa respectiva, fie ca nu. Faptul ca adaugi un program care oprește căutarea este diferit de căutarea însăși, care este aleatorie. Ca sa pun asta sub forma unei glume, îți aduc aminte de o replica din primul „Dumb & Dumber „: „So, you tell me there is a chance!”

  39. sonatalunii says:

    Edit: am vrut sa spun GD, George Dumitru.

  40. sonatalunii,

    Parerea mea, foarte umila, este ca Dumnezeu a mutat, si muta, atomi

    Asta implica notiunea ca atomii au o geometrie determinata in spatiu/timp (Dumnezeu nu joaca zaruri). Ditto, mai ales ca e periculos sa-l contrazici pe Einstein. Asta ne intoarce insa la problema dicutata la Interstellar. Singurul model geometric care satisface relatia de nedeterminare este acela care implica a 5-a dimensiune (cel putin) de spatiu/timp. Asta inseamna ca Dumnezeu intervine din-afara universului.

    A doua problema este ca atomul acela, masurat in universul nostru, se manifesta ca si cum ar exista in mai multe locuri deodata.. Unda este suma pozitiilor probabile ale particulei, dar toate pozitiile posibile inseamna tot universul. Atunci ne intoarcem la teza mea ca Dumnezeu lucreaza prin probabilitati in universul nostru, chiar daca muta atomi in alta dimensiune.

  41. @ MC

    Mi-a plăcut mult documentarul, l-am vizionat de două ori 🙂 Ar fi multe de spus, dar recunosc că e ptr prima dată când înțeleg ce vrei să spui cu fenomenele emergente, complexitate care apare spontan din simplitate. Cu toate astea, deși m-a pus pe gânduri această idee principală a documentarului, uită-te singur cât de alunecoasă filozofic e concluzia lui, în ultimul minut:

    „ … Toată complexitatea universului, toată bogăția sa infinită, apare din reguli simple și IRAȚIONALE ( mindless ), repetate mereu și mereu.

    Eu întreb: e nevoie de un creator designer care stă în spatele acestor reguli? Păi fractalul lui Mandelbrot nu are o minte de matematician în spate? Game of life al lui Conway nu are la bază niște reguli matematice simple gândite de o minte? Comportamentul spontan și evoluat al acelor creiere virtuale nu are la bază un software creat inițial de un inginer programator? Cum adică reguli simple și mindless? Poate a vrut să spună că regulile în sine, fenomenul în sine de creștere în complexitate este mindless, dar regulile nu pot apare de la sine…au nevoie de fiecare dată ( din exemplele oferite ) de o minte inteligtentă care le-a creat.

    În cazul în care acest lucru e adevărat, adică Dumnezeu a creat doar simple reguli care dau complexitate din ce în ce mai mare, iar el nu cunoaște viitorul universului datorită teoriei haosului, și nici nu intervine din când în când ptr a aranja/corecta lucrurile, ci le lasă să meargă de la sine cum or dori ele să meargă… atunci nu mai merită a fi numit Dumnezeu. E doar un experimentator cosmic genial și monstruos în același timp. Un monstru care habar nu are ceea ce va ieși din experimentul său, până la urmă, și… și mai rău decât atât… nu poate/nu vrea să intervină ( n-a intervenit de ex de 13, 7 miliarde de ani în sistem ). Mult mai preferabil decât credința asta este ateismul.

    În concluzie, nu aș avea nimic cu ideea fenomenelor emergente din film. Aș avea însă ceva împotriva ideii că creatorul ( dacă există vreunul ) nu intervine niciodată în sistem, ptr a repara eventualele disfuncționalități. Iar când spun disfuncționalități… nu vorbesc despre fractali matematici sau creiere virtuale care se împiedică la doi pași, ci despre creiere reale care conștientizează suferința în modul cel mai real cu putință. Dacă stă dincolo și privește frumușel cum se chinuie pe aici complexitățile astea umane ( printre alte complexități ) și nu face chiar nimic de câteva sute bune de milioane de ani… then, vorba ta… să se ducă să se f$§ä și să nu se mai reproducă. Absența unui asemenea zeu este infinit mai preferabilă decât existența lui. De fapt ăsta nu mai e teism, ci deism.

    Dacă însă intervine din când în când în sistem, prin mijloace necunoscute nouă ( și eu ți-am dat exemplul lui Henry Ford care poate oricând să intervină în motorul său, nu-l oprește nimeni de la asta ), ptr a repara rezultatele disfuncționale create de fenomenele emergente, atunci se schimbă complet toată povestea. Poate interveni la momentul procariote-eucariote, la momentul Cambrian, sau la momentul cruce, acum 2000 de ani. Așa că , din nou, e o chestiune de alegere filozofică: alegi să crezi că intervine punctual ( habar nu avem cum, dar intuim cam când a făcut-o ) sau alegi să crezi că nu există niciun drac, niciun Dumnezeu și că totul se întâmplă de la sine.

    Care ar fi a treia variantă după tine?

  42. GD,

    Computerul nu cauta adrese de bitcoin, ci le genereaza aleatoriu. Valoarea bitcoinului creste cu dificultatea + piata.

    Natura genereaza aleatoriu configuratii ADN, pe care mediul (echivalentul pietei) le selecteaza. Pe masura ca diverse nise sunt ocupate in natura, dificultatea (nivelul de complexitate) creste. Ex: bacteriiile ocupa majoritatea niselor. Omul ocupa o nisa cuturala care poate fi adaptata la orice mediu fara ca omul sa se schimbe. Stephen Jay Gould in Full House ( titlul e ambivalenta, inseamna casa plina si full de poker in acelasi timp) explica modelul.

  43. @ MC

    „Computerul nu e doar o extrapolare a mintii umane, fiindca odata adusa la existenta aceasta platforma externa, aceasta depaseste sfera de agency a programatorilor.”

    Asta este o afirmație foarte tare, care cere dovezi. Nu le-am văzut până acum.

    „Programatorul, in acest context, e un simplu copil care se joaca literalmente cu uneltele, fara sa stie care va fi rezultatul.”

    Vezi, aici ți-ar fi prins bine ceva târșeală prin filozofie, mai ales prin aia a limbajului. Dar, cu riscul de a mă numi din nou arogant, o să fac un pic de ordine prin ceea ce am putea numi omonimia neștiinței.

    A spune că nu știi ceva poate să însemne mai multe lucruri.

    De exemplu, eu nu știu câți bani de metal am în buzunar. Adică nu știu nici suma totală, nici cupiura. Dar asta este absolut contingent. Pot oricând să număr acei bani și să le fac monetarul. Și voi ști.

    Cu totul altceva înseamnă să spun că nu știu zecimalele lui Pi.

    Dar, deși o să ți se pară aberant ce zic, știu cât face 3984765548231945637 x 1234567898765432123498765434567. Sigur că nu am în memorie rezultatul oricărui produs de două numere naturale, dar pot oricând, cu o foaie și un creion, să aflu. Nu știu cât e radical din Pi.

    Așa că trebuie să te hotărăști ce anume înseamnă că programatorul nu știe care va fi rezultatul. Că în mod contingent nu știe sau că nu are posibilitatea să știe.

    Și aici apar două situații. Dacă se generează o situație al cărei final trebuie să-l aștepți – de exemplu se înfruntă două grupe de câte 10 gladiatori, iar eu vorbesc despre a ști câți supraviețuiesc înfruntării – nu poți descrie situația spunând că nu știi, ci că nu ai aflat încă, întrucât situația descrisă nu admite nicio știință până la încheiere. Dacă însă apare o situație în care cunoașterea unui anume aspect presupune calcule complicate dar tu ai știință de felul în care se poate calcula fiecare aspect – dai drumul unui pendul și vrei să afli amplitudinea celei de a 34-a pendulări – este foarte firesc să afirmi că știi asta, chiar dacă încă nu ai făcut calculele.

    „In game of life asta devine evident – computerul pur si simplu repeta aceeasi functie la nesfarsit, iar programatorul observa in real time schimbarile, fara sa aiba habar unde se va ajunge.”

    Pentru g.o.l. poți calcula, pornind de la o situație dată, toate schimbările de care zici.

    „Ca sa nu ma acuzi ca vorbesc in necunostiinta de cauza, mentionez ca am facut cursuri de Grashopper si Maya, am realizat proiecte folosind aceste unelte, am creat forme pe care nici macar nu le-as fi putut vizualiza mental in absenta unei platforme virtuale.”

    Întâi că utilizarea ălor două softuri nu au nicio treabă cu turnul primăriei sau cu programarea. Alea au fost programate de cineva. Tu ești user. N-ai habar ce e îndărătul lor, așa cum probabil n-ai habar de PHP-ul dindărătul acestui blog sau de cum a fost făcut un editor de text sau photoshop sau excel.

    Citez din prezentarea Grasshopper: „About Grasshopper… For designers who are exploring new shapes using generative algorithms, Grasshopper® is a graphical algorithm editor tightly integrated with Rhino’s 3-D modeling tools. Unlike RhinoScript, Grasshopper requires no knowledge of programming or scripting, but still allows designers to build form generators from the simple to the awe-inspiring.”

    requires no knowledge of programming or scripting…

    La fel pentru Maya: „Maya® 3D animation, modeling, simulation, rendering, and compositing software offers a comprehensive creative feature set on a highly extensible production platform. Maya provides high-end character and effects toolsets along with increased productivity for modeling, texturing, and shader creation tasks.”

    Este ca și când ai pretinde, ca user de AutoCAD sau de 3D Studio Max că ești programator și știi ce e în codul lor.

    ***

    Mă uit la film și îți zic dacă am priceput ceva.

    Până atunci, un banc fain:

    „Cică joacă golf Moise, Isus și un bătrânel șters. E o zi cu vânt puternic.

    Primul lovește Moise. Mingea capătă un efect ciudat și merge supărător către baltă. Moise întinde crosa, apele se despart și mingea își continuă drumul nestingherit spre gaură.

    Apoi lovește Isus. Vântul trage mingea spre baltă, dar se oprește pe creasta unui val, Isus merge pe apă, lovește din nou și mingea intră în gaură.

    Bătrânelul se întoarce cu spatele spre gaură și lovește puternic. Mingea mușcă din vârful gardului, iese pe șoseaua de lângă, lovește geamul lateral al unui camion în plină viteză, de acolo ricoșează spre baltă, unde cade pe o frunză de nufăr, este înghițită de o broască exact când o barză o prinde în cioc și zboară apoi cu ea, iar broasca scapă mingea din gură exact deasupra găurii.

    Moise: Vezi de ce nu-mi place să joc cu taică-tu?”

    Temă de casă:

    Cum joacă Darwin?

    ***

    Cică la îneput pe tabla de șah existau câte 16 pioni. Ulterior, grație naturii tablei, 8 dintre ei au evoluat, prin mutații aleatorii, în rege, regină, cal, nebun și turn.

  44. Jay Gould rules! Must read for every stupid progressist.

  45. Ăsta era clue-ul trimiterii la Heidegger. Simțul comun (și Gazzaniga pe urma lui) consideră că un om nu poate să facă ceva decât direct, dacă este prezent acolo unde se face ceea ce este făcut. Ceea ce e fals. Faraonul îi omoară pe toți copiii evreilor cu excepția lui Moise, chiar dacă decizia este actualizată de diferiți soldați (care, moral, pot să fie sau nu vinovați de ascultarea orbească a unui ordin, dar nu de uciderea copiilor evrei).

    Acum inteleg si eu de ce a spus Heidegger ca Faraon este custodele Fiintei:

    Pharaon AS THE CUSTODIAN OF BEING

    MARTIN HEIDEGGER

    This Europe, which is always in the process of tearing itself apart out of utter blindness, lies today in the great pincer-grip formed by Russia on the one hand and America on the other. Seen metaphysically, Russia and America are both the same: the same desolate frenzy of unbounded technology and of the unlimited organization of the average human being. Once the furthermost corner of the globe has been technologically conquered and opened up to economic exploitation, when every possible event in every possible place at every possible time has become as accessible as quickly as possible, when people can ‘experience’ an attempt on the life of a king in France and a symphony conceit in Tokyo simultaneously, when time has become only speed, instantaneousness, and simultaneity, and time as History has disappeared from the existence of all peoples, when the boxer is seen as the great man of a people, when mass gatherings running into millions are regarded as a triumph—then, yes, then, the questions which hover over this whole grotesque charade like ghosts are: for what?—where to?—and what then?

    The spiritual decay of the earth is so advanced that peoples risk exhausting that reserve of spiritual force which enables them just to see and take stock of this decay (in respect of the destiny of ‘Being’). This simple observation has nothing to do with cultural pessimism: for in every corner of the world the darkening of the world, the flight of the gods, the destruction of the earth, the massification of man, the contemptuous suspicion of everything which is creative and free, have reached such proportions that such childlike expressions as pessimism and optimism have long become laughable.

    We lie in a pincer-grip. As the people placed at the centre we experience the hardest pressure, as the people with the most neighbours we are most at risk, and on top of this we are the most metaphysical people. But this people will only be able to forge a destiny out of its fate if it first creates in itself a resonance, some possibility of a resonance, of this fate and achieves a creative understanding of its tradition. What all this involves is that this people as a historical people projects itself and thereby the history of the West from the core of its future development into the original realm of the forces of Being. If the great verdict on Europe is not to be reached on its road to annihilation, then it can only be reached because of the unfolding of new historically spiritual forces from the centre.

    In order to underpin values which have been raised to the level of a moral imperative, the values themselves are attributed Being. But in this context Being basically means no more than the presence of what exists. Only that what is meant is not as crude and palpable as tables and chairs. Once values are endowed with Being the high-point of confusion and rootlessness has been arrived at. However, since the expression ‘value’ is gradually coming to sound hackneyed, especially since it still plays a role in economic theory, values are now called ‘totalities’. In 1928 there appeared the first volume of a complete bibliography of the concept value; 661 works concerning the concept of value are cited. They have presumably grown to a thousand by now. This is all called philosophy. What today is systematically touted as the philosophy of National Socialism, but which has nothing in the least to do with the inner truth and greatness of this movement (namely the encounter of a globally determined technology with the man of the new age), darts about with fish-like movements in the murky waters of these ‘values’ and ‘totalities’.

    Heil Ramses,

    Martin Heidegger

  46. Cum ziceam, EC nu ratează nicio ocazie de a fi prost. Vrea să facă o glumă, dar gluma se destramă și prin urzeală se vede că nu e decât un sfertodoct din secta martorilor lui Google&Wiki, toată ziua cu logica în gură, dar cu cunoștințe de care un elev mediocru de-a noua ar râde.

    Ia o bucată din „Einführung in die Metaphysik”, dar evident în engleză, că la el în oraș nu vorbea nimeni nemțește (nu că nu l-ar trăda și romgleza la substantivul pentru denumirea suveranului egiptean), dar nu din vreo carte (e tradusă și în englezește, și în românește) sau măcar sursă online de încredere, ci folosește o făcătură (să-l ajutăm: forgery) a unor băieți cu capetele rase și înfierbântate (să-l ajutăm: skinheads) care i-au modificat titlul în „National Socialism as the Custodian of Being”.

    Reușită glumă!

  47. Ca să nu se înțeleagă greșit: el nu e, în general, nici prost, nici incult. Tocmai asta e problema. Graba strică treaba…

  48. gigi,

    Versiunea doctoricita este Introducerea din 1952.

    Vezi tu, google si romgleza fac parte din revolutia pe care o deplange Heidegger, si care se pare ca a castigat, si noi, prostii, impreuna cu ea. Ceea ce mi se pare naiv este ca nu a realizat ca nazismul tinea de aceiasi metafizica a prezentei ca si comunismul si capitalismul. Nu il judec, multi azs credeau in 1935 ca Hitler face parte dintre conducatorii mentionati de Elen White ca vor fi cu poporul lui Dumnezeu in timpul plagilor.

    Ceea ce mi se pare interesant este ca ai oferit exact justificarea pentru holocaust pe care ar fi oferit-o Heidegger la Nuremberg daca ar fi ajuns la pozitia ravnita pe care a ocupat-o Goebbels. Numai ca cismele pe care le-a lins l-au preferat pe un fiu de popa protestant (Nietzsche)unui would be (nu pot fara romgleza) popa iaezuit (MH).

  49. Eric T. says:

    Prea multe animozitati si ad hominem pe marginea acestui subiect cu ID/evolutie. Dialog futil.

  50. @ EC

    Înainte să știe a vorbi cel neajuns popă iezuit, pruncul de popă protestant zisese deja că ne așteaptă un secol de barbarie, iar științele se vor afla în fruntea lui. H zice, de mai multe ori, parcă și în interviul din Der Spiegel, că a înțeles asta, că „metafizică” avea sens negativ, dar că în sală erau spioni, așa că a vorbit ezoteric, studenții lui înțelegând că, de fapt, critică nazismul. Nu contează dacă-l cred sau nu. Există însă scrieri mai târzii în care chiar afirmă asta explicit.

    Nu-mi place istoria contrafactuală, dar dincolo de imoralitățile sale, era suficient de inteligent încât să înțeleagă că, dacă cineva desparte responsabilitățile așa cum am făcut-o eu, și judecații și judecătorii aveau de dat seamă de zecile de milioane de oameni transformați în carne de tun și puși să se omoare între ei. Deci ar fi fost o foarte de succes apărare…

    Dincolo de asta, MC adusese în discuție ideea de „agency”, răspunsul asta viza.

Lasă un răspuns:

Te rog autentifică-te folosind una dintre aceste metode pentru a publica un comentariu:

Logo WordPress.com

Comentezi folosind contul tău WordPress.com. Dezautentificare /  Schimbă )

Fotografie Google

Comentezi folosind contul tău Google. Dezautentificare /  Schimbă )

Poză Twitter

Comentezi folosind contul tău Twitter. Dezautentificare /  Schimbă )

Fotografie Facebook

Comentezi folosind contul tău Facebook. Dezautentificare /  Schimbă )

Conectare la %s

Acest site folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.

%d blogeri au apreciat: