favs.blue
  1. 1

    Zaujímavý postreh okolo AI. Okrem zjavného rizika náhodného alebo cieleného doručenia zmanipulovanej odpovede sa zdá, že prichádzame o dôležitú fázu učenia sa - zvedavosť. Každý deň sa hromadia dôkazy o tom, že tak, ako sú sociálne siete junk food pre dušu bude AI junk food pre mozog...

  2. 2

    Reply to @ondrop.eurosky.social

    Nie je dôvod myslieť si, že by OpenAI alebo Anthropic boli z dlhodobého hľadiska ohľaduplnejší voči ich zákazníkom. Trh ich dotlačí k najhostilnejšiemu akceptovateľnému správaniu sa voči používateĺovi. Tak, ako nás soc. siete nakoniec potichu izolovali, bude nás chcieť AI chcieť potichu ohlúpnuť.

  3. 3

    Reply to @ondrop.eurosky.social

    Respektíve horšie - ak sa okolo bezbrehého využívania AI rýchlo nepostaví spoločenské tabu vypustíme na generáciu rovnakú škodu aká vznikla využívaním olovnatých palív - trvalé a takmer nezvratné kongnitívne poškodenie celej generácie.

  4. 5

    Reply to @ondrop.eurosky.social

    Ak chcem len rýchlo získať odpoveď na špecifickú otázku tak mi ju LLM search okamžite poskytne a zaniká priestor na objavovanie okolia. Ak chcem vedieť ako sa žije na Falklandoch, dostanem štyri odseky od AI. Pred pár rokmi som si otváral Wikipédiu a našiel by som reportáž Guardianu...

  5. 6

    Reply to @ondrop.eurosky.social

    Veľmi by som chcel, aby som sa v tomto mýlil.

  6. 7

    Reply to @ondrop.eurosky.social

    Tým, že som musel hmatať v tme, našiel som síce odpoveď pomalšie, ale zároveň som objavil nečakané informácie a našiel som výbežky tém, ktoré som ani nevedel že neviem. Toto zaniká, lebo LLM dá kompletnú odpoveď a argument znie, že trenie je užitočné pre učenie sa aspoň v niektorej fáze života...

  7. 8

    Reply to @ondrop.eurosky.social

    idem do toho poučený z toho, že keď sa pred pár rokmi v Mete začali pýtať či je až taký problém, že ich produkt spôsobuje akútne a vážne psychické problém deťom, povedali si že vlastne nie...

  8. 9

    Reply to @ondrop.eurosky.social

    A AI vyhľadávanie má veľa dôvodov ho potlačiť, okrem iného aj ten, že pre tie firmy nie je užitočné mať za zákazníkov rozhľadených ľudí. Je to extrémne cynický pohľad, ale....

  9. 10

    Reply

    Myslí, že je rozdiel medzi hlbšou prácou, kedy LLM pomáha destilovať komplexný problém a tým, kedy získavame informácie. Spoločná destilácia nie je tak riziková, lebo sa človek hýbe v doméne, kde už má expertízu a vie na čo sa pýtať. Ale...

  10. 11

    Pýtam sa pre kamaráta (developera).