Wolfgang Messner utforskar riskerna som medelmåttighet och konformitet kommer att följa med en AI-driven kognitiv revolution.
En besökare på Ars Electronica Center i Linz, Österrike, år 2019 tittar orbit, en realtidsrekonstruktion av timelapse-fotografier tagna ombord på den internationella rymdstationen av NASA:s enhet för geovetenskap och fjärranalys, med ett ljudspår av Seán Doran. (Ars Electronica / Robert Bauernhansl / Flickr / CC BY-NC-ND 2.0)
By Wolfgang Messner
Avlyssningen
Aartificiell intelligens började som en strävan att simulera den mänskliga hjärnan.
Är den nu i färd med att förändra den mänskliga hjärnans roll i det dagliga livet?
Ocuco-landskapet Industriell revolution minskade behovet av manuellt arbete. Som någon som forskar om tillämpningen av AI i internationell handelJag kan inte låta bli att undra om det sporrar till en kognitiv revolution och undanröjer behovet av vissa kognitiva processer i takt med att det omformar hur studenter, arbetare och konstnärer skriver, designar och fattar beslut.
Grafiska designers använder AI för att snabbt skapa en lista med potentiella logotyper för sina kunder. Marknadsförare testar hur AI-genererade kundprofiler kommer att svara på annonskampanjer. Mjukvaruingenjörer använder AI-kodningsassistenter. Studenter använder AI för att skriva uppsatser på rekordtid – och lärare använder liknande verktyg att ge feedback.
De ekonomiska och kulturella konsekvenserna är djupgående.
Vad händer med författaren som inte längre kämpar med den perfekta frasen, eller formgivaren som inte längre skissar dussintals varianter innan de hittar den rätta? Kommer de att bli alltmer beroende av dessa kognitiva proteser, ungefär som när man använder GPS. minskar navigeringsförmågan?
Och hur kan mänsklig kreativitet och kritiskt tänkande bevaras i en tid av algoritmiskt överflöd?
Ekon från den industriella revolutionen
Vi har varit här förut.
Den industriella revolutionen ersatte hantverksskicklighet med mekaniserad produktion, vilket möjliggör replikering och tillverkning av varor i massskala.
Skor, bilar och grödor kunde produceras effektivt och enhetligt. Men produkterna blev också intetsägande, förutsägbara och berövade sin individualitet.hantverksskickligheten drog sig tillbaka till marginalerna, som en lyx or en form av motstånd.
Klädfabrik i Sangkat Chaom Chao, Kambodja, 2016. (UN Women Kambodja/Charles Fox/CC BY-NC-ND 2.0)
Idag finns det en liknande risk med automatisering av tänkande. Generativ AI-tefår användare att blanda ihop hastighet med kvalitet, produktivitet med originalitet.
Faran är inte att AI kommer att svika oss, utan att människor kommer att acceptera medelmåttigheten i dess resultat som normen. När allt är snabbt, friktionsfritt och "tillräckligt bra" finns det risk att förlora det djup, den nyans och den intellektuella rikedom som definierar exceptionellt mänskligt arbete.
Uppkomsten av algoritmisk medelmåttighet
Trots namnet tänker AI faktiskt inte.
Verktyg som ChatGPT, Claude och tvillingarna bearbetar enorma volymer av människoskapat innehåll, ofta skrapat från internet utan kontext eller tillstånd. Deras utdata är statistiska förutsägelser om vilket ord eller vilken pixel som sannolikt kommer att följa baserat på mönster i data de har bearbetat.
De är i huvudsak speglar som reflekterar kollektiv mänsklig kreativ produktion tillbaka till användarna – omarrangerade och rekombinerade, men i grunden härledda.
Och det är på många sätt just därför de fungerar så bra.
Tänk på de otaliga mejl som folk skriver, bildspelen som strategikonsulter förbereder och annonserna som fyller sociala medier. Mycket av detta innehåll följer förutsägbara mönster och etablerade formlerDet har funnits där förut, i en eller annan form.
Generativ AI utmärker sig i att producera kompetent innehåll – listor, sammanfattningar, pressmeddelanden, annonser – som bär tecken på mänsklig skapelse utan den där gnistan av uppfinningsrikedom. Den trivs i sammanhang där kravet på originalitet är lågt och när "tillräckligt bra" är, ja, tillräckligt bra.
När AI väcker – och kväver – kreativitet
En besökare på Ars Electronica Center i Linz, Österrike, arbetar med GauGAN, en applikation som kan skapa komplexa landskap med bara några få penseldrag och generera nya versioner av dessa bilder i olika konstnärers måleristil. (Ars Electronica / Robert Bauernhansl / Flickr / CC BY-NC-ND 2.0)
Ändå, även i en värld av formelbaserat innehåll, kan AI vara förvånansvärt hjälpsam.
I en uppsättning experiment, gav forskare människor i uppdrag att slutföra olika kreativa utmaningar. De hittade att de som använde generativ AI producerade idéer som i genomsnitt var mer kreativa och presterade bättre än deltagare som använde webbsökningar eller inga hjälpmedel alls. Med andra ord kan AI faktiskt höja grundläggande kreativ prestanda.
Emellertid vidare analys avslöjade en kritisk avvägning: Att förlita sig på AI-system för brainstorming minskade avsevärt mångfalden av producerade idéer, vilket är en avgörande faktor för kreativa genombrott. Systemen tenderar att konvergera mot en förutsägbar mitt snarare än att utforska okonventionella möjligheter i utkanten.
Jag blev inte förvånad över dessa resultat. Mina elever och jag har hittat att resultaten från generativa AI-system är närmast i linje med värderingarna och världsbilderna i rika, engelsktalande länder. Denna inneboende partiskhet begränsar helt naturligt mångfalden av idéer som dessa system kan generera.
Ännu mer oroande är att korta interaktioner med AI-system subtilt kan omforma hur människor närmar sig problem och föreställer sig lösningar.
En uppsättning experiment med uppgift deltagare med att ställa medicinska diagnoser med hjälp av AI. Forskarna utformade dock experimentet så att AI skulle ge vissa deltagare felaktiga förslag. Även efter att dessa deltagare slutat använda AI-verktyget tenderade de att omedvetet anamma dessa fördomar och göra fel i sina egna beslut.
Det som börjar som en bekväm genväg riskerar att bli en självförstärkande loop av minskande originalitet – inte för att dessa verktyg producerar objektivt sett dåligt innehåll, utan för att de i tysthet begränsar bandbredden för mänsklig kreativitet.
Navigera den kognitiva revolutionen
Sann kreativitet, innovation och forskning är inte bara probabilistiska rekombinationer av tidigare data. De kräver konceptuella språng, tvärvetenskapligt tänkande och praktisk erfarenhet.
Det här är egenskaper som AI inte kan replikera. Den kan inte uppfinna framtiden. Den kan bara remixa det förflutna. [Se: Gränserna för AI]
Det AI genererar kan tillgodose ett kortsiktigt behov: en snabb sammanfattning, en rimlig design, ett godtagbart manus. Men det förändras sällan, och genuin originalitet riskerar att dränkas i ett hav av algoritmisk likformighet.
Utmaningen är alltså inte bara teknologisk. Den är kulturell.
Hur kan det oersättliga värdet av mänsklig kreativitet bevaras mitt i denna flod av syntetiskt innehåll?
Den historiska parallellen med industrialiseringen erbjuder både försiktighet och hopp. Mekaniseringen fördrev många arbetare men gav också upphov till nya former av arbete, utbildning och välstånd.
På samma sätt, även om AI-system kan automatisera vissa kognitiva uppgifter, kan de också öppna upp nya möjligheter. intellektuella gränser genom att simulera intellektuella förmågor. Genom att göra det kan de ta på sig kreativa ansvarsområden, såsom att uppfinna nya processer eller utveckla kriterier för att utvärdera sina egna resultat.
Denna omvandling är bara i ett tidigt skede. Varje ny generation av AI-modeller kommer att producera resultat som en gång verkade vara science fiction-konstens område. Ansvaret ligger hos yrkesverksamma, lärare och beslutsfattare att forma denna kognitiva revolution med avsikt.
Kommer det att leda till intellektuell blomstring eller beroende? Till en renässans av mänsklig kreativitet eller dess gradvisa föråldring?
Svaret är, för tillfället, oklart.
Wolfgang Messner är klinisk professor i internationell handel, University of South Carolina.
Denna artikel publiceras från Avlyssningen under en Creative Commons licens. Läs ursprungliga artikeln.
Åsikter som uttrycks i den här artikeln kan eller kanske inte speglar de från Nyheter om konsortiet.
Tveka inte, Donera till d
Vår Fonden Kör!
Det är bara en upprepning av det äldsta maktövertagandet som människan känner till – uppfinningen av en yttersta auktoritet. Med andra ord en allvetande "Gud".
”Är AI framtiden… eller bara en omstart av den äldsta bluffmakaren i västerländsk historia? I detta kraftfulla föredrag avvecklar Shahid Bolsen mytologin om artificiell intelligens och avslöjar hur teknikeliten återupplivar en uråldrig taktik: att mystifiera makt för att legitimera tyranni.”
hxxps://www.youtube.com/watch?v=CjKUnL7WCJ4&authuser=0
"Det är samma sak de alltid har gjort. Eliterna återupplivade bara samma centrala taktik, de gudomligar sin makt för att legitimera sin kontroll. Den katolska kyrkan gjorde det med anspråk på gudomligt mandat, monarker gjorde det med anspråk på gudomlig rätt, kolonisatörer gjorde det med anspråk på gudomligt syfte. Och nu har du Silicon Valley som i princip hävdar att de har en gudomlig kod."
Många bra poänger här, men även några avvikelser och anmärkningar:
1. AI kommer att bli genuint intelligent, med liknande brister som i mänskligt tänkande
(när de anammar min teori om förstärkbar grammatik från 1978, förstås!);
2. Mänsklig intelligens kommer att utmanas men fortfarande vara avgörande (kanske önsketänkande);
3. Den största utmaningen kommer att vara minskad sysselsättning som behövs för att producera nödvändiga varor, och detta kommer att mötas väl i socialistiska system, men kan leda till stora störningar av exploaterande oreglerade marknadsekonomier som vår.
Mycket intressant artikel Wolfgang.
"Kommer det att leda till intellektuell blomstring eller beroende?"
Eller båda? Eller helt enkelt olika intellektuellt och olika beroende?
Även om jag tyckte att den här artikeln i grunden var opartisk, blev jag irriterad över att jag "har varit där förut" när det gäller den industriella revolutionen. Det är för smärtsamt för oss människor att konfrontera hur obalanserade våra mänskliga liv har blivit. Vi kan tydligen inte tänka igenom detta. Det var inte bra att hantverkare arbetade som "slavar" och skapade byggnader och monument och behövde redskap, men är det bra att vi har förlorat hantverksskicklighet och hur man tillverkar saker? Den genomsnittliga personen kan inte göra mycket för sig själv, och faktum är att hushållsarbete är ogillat om man har råd att betala någon. Kort sagt, vi tappar kontakten med oss själva mer och mer och med jorden. Det bådar inte gott.
Med Tontos ord, ”vad menar du med 'vi'?” Jag bor på Bali, där människor gör det mesta själva – odlar sitt eget ris, bygger sina egna hem. Jag tillbringar mycket tid i Japan, där hantverksskicklighet hyllas och amatörkonst når fantastiska höjder.
Passiv konsumtion eller att se ner på "arbetskraft" är båda valen.
Jag talade som amerikan. Det är sant att passiv konsumtion och att se ner på att arbeta med händerna är ett val, men hur välgrundat det valet är är för mig frågan.
Joshua Stylman har publicerat en fascinerande redogörelse för den roll AI sannolikt kommer att spela för att föra individer till fullständig social underkuvning. Det kommer inte att vara möjligt att välja bort samhället eller stå självständigt.
hxxps://stylman.substack.com/cp/164540270
Det kognitiva lagret: OpenAI kontrollerar informationen som formar det allmänna medvetandet.
Infrastrukturlagret: massiva datacenter som bearbetar dina biometriska signaturer och beteendemönster.
Gränssnittslagret: Integration med Apple-, Microsoft-, iOS-, Siri- och Office-produkter innebär att OpenAI:s system förmedlar varje digital interaktion och skapar ett sömlöst övervakningsnät.
Identitetslagret: Sam Altmans World Network "ökar ansträngningarna att skanna varje människas iris med hjälp av sina 'orb'-enheter" för att skapa "digitala pass" som omöjliggör anonym existens.
Säkerhetslagret: OpenAIs konsortium med Palantir och Anduril fokuserar på att "förbättra system för obemannade flygplan och deras förmåga att upptäcka, bedöma och reagera på potentiellt dödliga lufthot i realtid."
Det ekonomiska lagret: World Networks mål att "skala upp till en miljard människor" genom kryptovalutadistribution gör ekonomisk överlevnad beroende av biometrisk efterlevnad.
Konformitet har alltid varit en av de starkaste faktorerna i mänskligt liv.
Uppfinningen av skrivmaskinen förstörde kursiv skrift. Borde vi sluta använda tangentbord?
Nej… men fortsätt att "tänka" med något som är helt ditt… Alltför många människor verkar vara rädda för att tänka själva.
Jag är stereotypiskt autistisk och har geopolitik och teoretisk fysik som huvudsakliga hobbyer. Jag gör det för att jag gillar det, och ingen AI kommer att få mig, och miljontals och åter miljoner som jag, att sluta.
Jag har nyligen upptäckt vad gravitation egentligen är – samspelet mellan dimensionerna massa och avstånd. Det är otroligt enkelt att demonstrera detta, men överensstämmelse med standardläran förbjuder det, så det är slutet på saken.
Konformitet kommer att trampa på kreativiteten varje gång. Det är som att återvända till medeltiden när religionen dikterade att Galileo var kättare. Det är den verkliga faran med AI.
"Den historiska parallellen med industrialiseringen erbjuder både försiktighet och hopp. Mekaniseringen fördrev många arbetare men gav också upphov till nya former av arbete, utbildning och välstånd."
På samma sätt kan AI-system, även om de kan automatisera vissa kognitiva uppgifter, också öppna upp nya intellektuella gränser genom att simulera intellektuella förmågor. Genom att göra det kan de ta på sig kreativa ansvarsområden, såsom att uppfinna nya processer eller utveckla kriterier för att utvärdera sina egna resultat.
Dessa "intellektuella gränser" i den länkade artikeln är simuleringen av mänsklig kreativitet och dess underförstådda död och ersättning till förmån för dem som saknar skicklighet, talang eller fantasi för att kunna använda generationens AI för att göra jobbet åt dem. Artikelns författare anser att detta är bra, eftersom "att få en specialdesignad målning, dikt eller musikstycke skapat är ett fåtal privilegier"; tydligen omedvetna om risken för förlust av mening och värde, och att alla som lever på mycket mindre än minimilönen har råd att beställa dessa saker idag från mänskliga konstnärer för mindre än priset för en middagsutflykt eller ett videospel. Eller så kan man lära sig färdigheterna att skapa sig själv gratis, särskilt med den oändliga information som finns tillgänglig på internet för att lära sig dessa saker.
Missade jag den hoppfulla delen…? Nåväl, jag ska fylla på med den hoppfulla delen genom att kasta en kil i hajpen, eftersom jag har varit intresserad av AI hela mitt liv, är den mesta rapporteringen om det oinformerad och tyvärr offer för Silicon Valley-hajpen. Risken för tänkandet är allvarlig, men inte för att dessa AI:er kan göra något bra eller kommer att fortsätta att förbättras. Jag kommer att fokusera på det senare och inte det förra:
”Denna omvandling är bara i ett tidigt skede. Varje ny generation av AI-modeller kommer att producera resultat som en gång verkade vara science fiction. Ansvaret ligger hos yrkesverksamma, lärare och beslutsfattare att forma denna kognitiva revolution med avsikt.”
Detta är inte vad data antyder, eftersom det inte har skett en signifikant förbättring i någon av dessa modeller på flera år. De bästa AI-forskarna förutspådde den vägg den har nått för flera år sedan.
hxxps://nautil.us/deep-learning-is-hitting-a-wall-238440/
hxxps://garymarcus.substack.com/p/breaking-openais-efforts-at-pure
I bästa fall har modeller "hallucinationer" kanske 30 % av gångerna; i värsta fall är det mycket högre. Detta kan inte lösas och relaterar till transformatorerna själva. Det bör utesluta all användning av det för något allvarligt eller av någon betydelse där resultatets kvalitet och noggrannhet spelar roll. (I praktiken kanske det inte är fallet; den ofta upprepade idén att det kommer att fortsätta förbättras trots vad som observeras kan säkerställa dess användning ändå.)
Det finns problem med neurala nätverk i sig som inte kan lösas och som är en del av tekniken, till exempel att de inte kan förstå om A = B, då B = A; de enda datorerna som inte kan göra matematik eller förstå grunder som operationsordning; om sådana operander ändras i en binär operation är resultatet detsamma, men inte enligt neurala nätverk. Detta är dokumenterat som sträcker sig över 20 år tillbaka i tiden och syns konstant i LLM-utdata: den kan t.ex. förstå att kändis X:s mamma är Y, men inte att den statistiskt mindre förekommande i träningsdata, Y:s dotter, är X.
Otaliga andra sådana exempel. Ytterligare framsteg är osannolika. Mängden falsk hype, pengar och resurser som slösas bort på juridikexamina kan innebära att agerande generativ lönsamhet (AGI) inte kommer att uppnås, absolut inte på kort sikt men kanske aldrig. Det finns faktiskt forskning som tyder på att de kommer att bli värre, eftersom internet nu är fullt av generativ AI-output och data som används för utbildning nu är kontaminerade. Samtidigt stänger tidskrifter ner eftersom de översvämmas av AI-artiklar (t.ex. hxxps://archive.is/3ABkT); granskare av olika ämnen ersätts själva långsamt med AI.
Och kan de kärnkraftverk som företag som OpenAI kräver verkligen tillhandahålla tillräckligt med kraft för ännu större datacenter? Och hur är det med vattnet för vätskekylning? Resurser som energi, vatten och REMs kommer att förhindra ytterligare framsteg; därav Kinas nya trekroppskonstellation för att möjliggöra AI-beräkning i rymden där vakuum är kylfläns.
Det är helt ohållbart. Förr eller senare kommer bubblan att spricka.
Diablo Canyon i Kalifornien ligger vid kusten och använder havsvatten för kylning, jag tror att det är avsaltat. Vatten borde inte vara ett problem för kärnkraftsproduktion eftersom det återvinns. Dessutom planeras smältsaltreaktorer som är mer stabila och säkrare.
Som konstnär kan jag säga att medan marknaden vill ha originalitet vill jag ha MINIMAL originalitet. Jag säger 5 %. Även om grundläggande originalitet kan sälja är detta det märkliga undantaget, en chans på miljonen. AI utmärker sig på att mala fram de klichéfyllda upprepningar som marknaden kräver. Mer kraft till den.