[forum] Klagomål på AI-genererad text i foruminlägg

[AdamLR]

Här kan man diskutera problemen med att folk använder AI-genererad text för att diskutera, besvara frågor mm. på forumet. Sedan kan den som vill hänvisa till denna tråd i stället för att diskutera problemet i varje enskild tråd där det kommer upp.

 

[n3wton]

Mycket bra och intressant tråd du startat! Den belyser verkligen många aktuella spörsmål och kommer förmodligen leda till fred i världen, att hungersnöden upphör och att vi löser klimatkrisen. Jag ska nu punkta upp femtusensjuhundra onödiga fakta här nedan innan vi kan gå vidare.

- Bla

- Bla

- Bla

- Bla

Mvh AI

 

[AdamLR]

Mitt största klagomål. Vill jag veta vad AI skulle svara kan jag enkelt prompta det på annat håll, precis som jag enkelt kan använda en sökmotor för att hitta olika källor. Inget av detta är vad jag är intresserad av på ett cykelforum. Jag går in på ett cykelforum för att få veta vad olika människor tycker, tänker och tror, var sig de är välinformerade eller dåligt informerade, delar mina åsikter eller tycker helt annorlunda o.s.v.

 

[Freddie L]

Har sett flera gånger hur diskussionen lever och frodas, och hur någon, helt oombedd slänger in ett ”så här skriver AI-wall of text”. Hade någon velat veta vad AI tyckte hade vi väl kollat själva eller åtminstone bett om det. Dålig happy-etikett säger jag.

 

[Ilritorno]

 

[Bikzz]

Tycker det är helt ok, men då bör man citera och ange speciellt att det är ett Ai-genererat svar.

 

[Oskar]

”Everything is going extremely well”

 

[Mayhem]

Har sett flera gånger hur diskussionen lever och frodas, och hur någon, helt oombedd slänger in ett ”så här skriver AI-wall of text”. Hade någon velat veta vad AI tyckte hade vi väl kollat själva eller åtminstone bett om det. Dålig happy-etikett säger jag.

Agreed. AI-genererade inlägg borde vara helt förbjudna. Vet du inte själv svaret på en teknisk fråga, ge fan i att posta AI-genererat dravel som ofta resulterar i ren misinformation.

 

[Makten]

Håller helt med. AI är ett jävla bajs som sällan tillför nåt. Vill man veta vad AI hittar på så kollar man själv.

 

[N_sandstrom]

Kan vi inte istället ha en dedikerad tråd där folk postar sina AI-genererade svar?
Eller, en kategori!

 

[n3wton]

Kan vi inte istället ha en dedikerad tråd där folk postar sina AI-genererade svar?
Eller, en kategori!

Perfekt! AI är ju lite forumens motsvarighet till cykelvärldens elcykel - man orkar inte riktigt trampa själv men vill ändå nyttja världens smartaste fordon (dvs man orkar inte riktigt tänka själv men vill ändå vara med i diskussionen).

Cykel - Elcykel - AI. Kategorisering färdig!

 

[Earlslick]

Perfekt! AI är ju lite forumens motsvarighet till cykelvärldens elcykel - man orkar inte riktigt trampa själv men vill ändå nyttja världens smartaste fordon (dvs man orkar inte riktigt tänka själv men vill ändå vara med i diskussionen).

Cykel - Elcykel - AI. Kategorisering färdig!

Kan vi inte bara ha två kategorier.
Cykel
Annat bös, exempelvis AI, Elcyklar osv.

 

[Bikzz]

Vilka trista gamla bakåtsträvare. Cyklar ni höghjuling oxå ? Get help. AI är ett suveränt verktyg när man vill undersöka något eller få hjälp. Mkt bättre än google. Men man måste ha lite koll själv såklart, så att man kan bedöma om svaren är rimliga, speciellt för komplicerade ämnen.

Och om man använder AI-texter på sociala media bör man såklart citera och förklara att det är AI-genererat.

 

[AdamLR]

Har sett flera gånger hur diskussionen lever och frodas, och hur någon, helt oombedd slänger in ett ”så här skriver AI-wall of text”. Hade någon velat veta vad AI tyckte hade vi väl kollat själva eller åtminstone bett om det. Dålig happy-etikett säger jag.

Att lägga AI-texten under en spoilerknapp kunde ju vara ett steg i rätt riktning gällande happy-etikett. Just de där stora textsjoken gör det extra störande.

 

[n3wton]

Vilka trista gamla bakåtsträvare. Cyklar ni höghjuling oxå ? Get help. AI är ett suveränt verktyg när man vill undersöka något eller få hjälp. Mkt bättre än google. Men man måste ha lite koll själv såklart, så att man kan bedöma om svaren är rimliga, speciellt för komplicerade ämnen.

Och om man använder AI-texter på sociala media bör man såklart citera och förklara att det är AI-genererat.

Hur får man själv koll på läget då? Om vi låtsas att du var två generationer yngre än vad du faktiskt är och om du istället för att själv traggla dig igenom (och därmed befästa) en massa krånglig information alltid bara ställt frågan till en AI-grej så hade du inte haft den kunskapen som du har idag. Jag tror att vi av ren lathet börjar stänga av våra egna hjärnor när vi vet att svaret alltid finns nära till hands.

Jag själv förstod mig aldrig på varför geografi var nyttigt i skolan, eftersom det var så ruggigt enkelt att bara titta i en atlas för att få reda på svaret. Idag är jag totalt värdelös på geografi.

 

[Bikzz]

Det kanske är olika för olika personer, Good point. Utan att skryta så kan jag redan ganska mkt om olika ämnen, och använder ganska ofta AI för olika frågor jag undrat över. Så för mig är det suveränt. Snabbare än att läsa flera olika referenser man får om man googlar, och jag tycker det blir bra sammanfattningar av det som är väsentligt.

Har inte tänkt på den aspekten faktiskt, att folk kanske blir lata och dumma och bara frågar AI ?? Något för skolan att ta tag i !

 

[n3wton]

Det kanske är olika för olika personer, Good point. Utan att skryta så kan jag redan ganska mkt om olika ämnen, och använder ganska ofta AI för olika frågor jag undrat över. Så för mig är det suveränt. Snabbare än att läsa flera olika referenser man får om man googlar, och jag tycker det blir bra sammanfattningar av det som är väsentligt.

Har inte tänkt på den aspekten faktiskt, att folk kanske blir lata och dumma och bara frågar AI ?? Något för skolan att ta tag i !

Jag tror att ett delproblem är att man, som du skriver, slipper "läsa flera olika referenser". Hur ofta är verkligheten så svartvit att det finns ett enda svar som är allomfattande? Nyansering, ifrågasättande och revidering är sådant som jag tror är ytterst grundläggande för att man ska få ett dynamiskt tankesätt med möjlighet till fortsatt personlig utveckling.

Saker med enkla svar är sällan diskuterade i någon vidare utveckling och behöver sällan besvaras. Saker som å andra sidan är komplicerade men där man tillämpar enkla svar leder sällan till något konstruktivt.

 

[N_sandstrom]

Vilka trista gamla bakåtsträvare. Cyklar ni höghjuling oxå ? Get help. AI är ett suveränt verktyg när man vill undersöka något eller få hjälp. Mkt bättre än google. Men man måste ha lite koll själv såklart, så att man kan bedöma om svaren är rimliga, speciellt för komplicerade ämnen.

Och om man använder AI-texter på sociala media bör man såklart citera och förklara att det är AI-genererat.

Jag tror du missar poängen lite.
AI är ett bra verktyg, jag använder det själv, men när jag vill använda det så skriver jag chatgpt_com eller lilnande i addressfältet, inte happyride_se.

Inget konstigt med att läsa en fråga på happy, fråga AI, använda information ur det svaret när du sedan skriver ditt eget svar (med en disclaimer).

Men det som ofta händer är att någon tar frågan rakt av, dumpar in i AIpromten, och sedan dumpar hela wall of text-svaret här.
Troligen utan att ens fundera på att läsa det först.

 

[Bikzz]

Men det som ofta händer är att någon tar frågan rakt av, dumpar in i AIpromten, och sedan dumpar hela wall of text-svaret här.
Troligen utan att ens fundera på att läsa det först.

Såklart förkastligt. Folk måste ju uppföra sig .....

 

[Bikzz]

Jag tror att ett delproblem är att man, som du skriver, slipper "läsa flera olika referenser". Hur ofta är verkligheten så svartvit att det finns ett enda svar som är allomfattande? Nyansering, ifrågasättande och revidering är sådant som jag tror är ytterst grundläggande för att man ska få ett dynamiskt tankesätt med möjlighet till fortsatt personlig utveckling.

Saker med enkla svar är sällan diskuterade i någon vidare utveckling och behöver sällan besvaras. Saker som å andra sidan är komplicerade men där man tillämpar enkla svar leder sällan till något konstruktivt.

I många fall tycker jag det är mkt bättre. Jag kan fråga AI om att få dom viktigaste aspekterna av Sveriges elförsörjning, eller dom viktigaste punkterna hos dom antika filosoferna, eller hur solsystemet bildades. Sen ställa följdfrågor för att förstå bättre. Om jag ska läsa wikipediaartiklar är det mkt svårare att förstå och sammanfatta, och tar mkt mer tid. Sorry för ett nördigt exempel....

 

[PJF]

I många fall tycker jag det är mkt bättre. Jag kan fråga AI om att få dom viktigaste aspekterna av Sveriges elförsörjning, eller dom viktigaste punkterna hos dom antika filosoferna, eller hur solsystemet bildades. Sen ställa följdfrågor för att förstå bättre. Om jag ska läsa wikipediaartiklar är det mkt svårare att förstå och sammanfatta, och tar mkt mer tid. Sorry för ett nördigt exempel....

Man kan träna upp läshastighet och förmåga att sorterat ut det relevanta i text. Detta är kortfattat en beskrivning av väldigt mycket akademiska studier.

 

[Bikzz]

Man kan träna upp läshastighet och förmåga att sorterat ut det relevanta i text. Detta är kortfattat en beskrivning av väldigt mycket akademiska studier.

Jag har märkt detta själv, läser en hel del. Ofta kan jag se vad en sida innehåller med några snabba blickar ...

 

[Luktapåblommorna]

Vilka trådar och inlägg gäller det, lite citat eller länkhänvisningar tack?

 

[Makten]

Ett jätteproblem med AI är att du inte vet vad källan till påståendena är. Under århundraden har vetenskapen ifrågasatt och ifrågasatts, och dokumenterat och diskuterat. Nu samlas ALLT detta, sant och falskt, i AI-genererade svar där man inte har en susning om hur många procent av källorna som sagt A och hur många som sagt B, när AI svarar B för att flest råkar ha hävdat det.

Jag menar inte att det gamla hederliga sättet är felfritt, men folk som använder AI verkar inte direkt ifrågasätta informationen som spottas fram. Så om AI har fel så är det ändå rätt för att det är AI. Helt värdelöst. Har upplevt att folk använder AI på jobbet i frågor där AI ger svar som är direkt felaktiga. Och ingen ifrågasätter skiten.

 

[zinkpasta]

Vilka trista gamla bakåtsträvare. Cyklar ni höghjuling oxå ? Get help. AI är ett suveränt verktyg när man vill undersöka något eller få hjälp. Mkt bättre än google. Men man måste ha lite koll själv såklart, så att man kan bedöma om svaren är rimliga, speciellt för komplicerade ämnen.

"Hej AI, kan du redogöra för Dunning-Kruger-effekten tack."

 

[Emil777]

"Hej AI, kan du redogöra för Dunning-Kruger-effekten tack."

Dunning-Kruger ?? Vad är det?
Blev tvungen att ai:a det.

Jaha.......samma fenomen som drabbar BMW-ägare alltså...
(ja, jag har källa på det !)

 

[GoranS]

Va? Läste du inte "Unskilled and Unaware of It: How Difficulties in Recognizing One's Own Incompetence Lead to Inflated Self-Assessments"?

 

[erik h]

Ja det är med AI på forum som med elmotorer på skogscykling. Det gör direkt hela verksamheten poänglös.

När den generativa AIn började dyka upp blev det rätt snabbt tydligt att det på lite sikt skulle betyda döden för alla ”sociala medier”, influencers och annat. Helt enkelt genom att dränka det eftersom innehållsproduktion inte längre har någon begränsning och därmed heller inget värde.

 

[SuperApe]

Så forumdöden har börjat. Ska ba slita ut den pågående forumgenerationen först.

 

[H.]

Vi har sedan industriella revolutionen växlat mänsklig arbetskraft mot maskiner. Och inte nån gång i alla tekniksteg som skett har det betytt slutet för mänskligt arbete. Kanske att slutet för mänskligheten kommer allt närmare i varje skifte, men det är en helt annan sak.

Nej, det som händer är att vi lär oss nyttja tekniken för att jobba effektivare och öka produktiviteten. Det ökar möjligheten för att skapa nya tjänster.

Vad gäller AI-svar på forumet så är ju problemet precis som redan nämnts att det mer handlar om att folk är jäkligt osmidiga på att posta såna inlägg. Wall of text från AI som ingen bett om. Nej tack.

 

[jomper]

Fast någon måste ju föda AI.n med kunskap och erfarenhet också, den uppstår inte från ingenstans. När forum och sånt antingen stängs ner från att tråla i för sökmotorer och AI-spindlar eller helt enkelt försvinner så kommer inte heller LLM:erna ha något att öva på. De kommer alltså bli dummare och dummare över tid till stor del beroende på sin egen existens.

Sånt som man kan lära sig genom att läsa manualer och dra massa logiska slutsatser verkar de fungera jättebra till. Jag har programmerat en massa grejer som jag helt saknar kompetens för med hjälp av AI.

 

[H.]

Ja, AI-incest lär ju bli ett reellt problem rätt snabbt...

Sen undrar jag hur länge "Ekonomi och juridik" fortsätter vara det mest populära programmet på gymnasiet...

 

[Bikzz]

Fantastisk grej. Just när utvecklingen av laptops & smartphones börjar klinga av så dyker det upp en ny superkul leksak att experimentera med.

 

[toshiba]

Det är fascinerande att se hur vissa försvarar AI-inlägg med samma frenesi som en tonåring försvarar sin första elcykel: ”det är ju bara ett hjälpmedel!”. Javisst, men om man inte orkar trampa själv kanske man inte heller ska delta i Tour de Forum.

AI som forumdödare​

Problemet är inte att AI är värdelöst – tvärtom, det är ofta alldeles för bra på att producera text. Problemet är att den texten blir själlös, oombedd och totalt ointressant i en diskussion som bygger på just mänskliga erfarenheter. Det är som att kliva in i en livlig diskussion på en afterbike och dra upp en powerpointpresentation. Ingen bad om det, ingen vill ha det, och alla suckar.


När någon dumpar ett AI-svar rakt av så visar det en sak: att man inte har något eget att tillföra. Det är ungefär som att räcka upp handen i klassrummet och sedan läsa högt från Wikipedia. Tekniskt sett är det information – men det är också döden för samtalet.

"Men jag använder AI som stöd…"​

Ja, gör det då! Ingen förbjuder dig att fråga ChatGPT på egen hand. Men när du klistrar in hela textklumpar i forumet så förväntas vi andra plötsligt sitta och läsa genom något som är lika personligt som bruksanvisningen till en mikrovågsugn. Vill du använda AI – gör det för att formulera dina egna tankar bättre, inte för att slippa tänka.

Människan är poängen​

Det unika med ett forum är inte perfekta svar. Det är att man får höra hur folk resonerar, delar anekdoter, gör misstag, skriver för långt eller för kort, blandar fakta med egna erfarenheter. När det byts ut mot AI blir allt platt och utbytbart. Vi behöver inte fler "generiska sammanfattningar", vi behöver fler historier från verkligheten – från din punka på väg till jobbet, din nya cykel som inte lirar som du tänkt eller ditt hemmabygge som sprack i ramen.

Min enkla regel:​

• Vill du använda AI för inspiration? Kör hårt.
• Vill du klistra in hela AI-svaret? Gör det någon annanstans.
• Vill du bidra här? Skriv med din egen hjärna.

För annars kan vi lika gärna lägga ner forumet, döpa om det till ”HappyAI.se” och låta en chatbot tugga ur sig inlägg tills servern går varm. Jag lovar: det blir jättespännande läsning, ungefär som att följa en manual för hur man byter glödlampa.

---

Slutsats:
Vill du vara med i samtalet? Trampa själv. Vill du bara åka med på elcykel? Gör det någon annanstans.

 

[toshiba]

Om nu någon mot ALL förmodan skulle missa det, det var chatGPT's inlägg i debatten.

 

[ttfh]

Dom värdefullaste inläggen är ofta dom som bygger på egen erfarenhet; nån svarar som själv har renoverat samma nav som du precis plockat isär och inte får ihop, nån svarar som köpt likadana däck som dom du går och funderar på.

Även innan chatgpt kunde man skriva inlägg om saker man inte upplevt själv, baserat på artiklar man läst eller youtube-videos man sett. Inget fel i det heller (hade väl blivit ett magert forum annars), men inte lika coolt som riktiga upplevelser.

 

[Bikzz]

Om nu någon mot ALL förmodan skulle missa det, det var chatGPT's inlägg i debatten.

Bra oxymoronsvar.

 

[kais01]

Om nu någon mot ALL förmodan skulle missa det, det var chatGPT's inlägg i debatten.

jo ai är hyggligt bra på att ge en nutidsbild av läget. men det genereras invändningsfri mellanmjölk helt utan intressanta poänger.

och hur går diskussionen vidare? ai helt rudis på det.

 

[kais01]

Dom värdefullaste inläggen är ofta dom som bygger på egen erfarenhet; nån svarar som själv har renoverat samma nav som du precis plockat isär och inte får ihop, nån svarar som köpt likadana däck som dom du går och funderar på.

Även innan chatgpt kunde man skriva inlägg om saker man inte upplevt själv, baserat på artiklar man läst eller youtube-videos man sett. Inget fel i det heller (hade väl blivit ett magert forum annars), men inte lika coolt som riktiga upplevelser.

nej nej för helvete! inte personliga upplevelser och konklusioner.

då kommer asperger-gänget genast till attack, och frågar efter LÄNKAR.

allt enligt devisen att det som inte hittas på internet existerar inte. och för att vara lite allvarlig; ai lider av samma begränsning i verklighetsuppfattningen.

 

[TBone]

”The Electric Monk was a labour-saving device, like a dishwasher or a video recorder. Dishwashers washed tedious dishes for you, thus saving you the bother of washing them yourself, video recorders watched tedious television for you, thus saving you the bother of looking at it yourself; Electric Monks believed things for you, thus saving you what was becoming an increasingly onerous task, that of believing all the things the world expected you to believe.
Unfortunately this Electric Monk had developed a fault, and had started to believe all kinds of things, more or less at random.”

 

[DanielS]

När man startar en tråd så borde ett AI-svar genereras, detta visas i någon form av speciell ruta som tydliggör att det är AI, i sina inställningar kan man ställa in att automatiskt dölja detta.

Sedan förbjuder vi inklistring av svar från AI (vilket kontrolleras genom att svar analyseras för AI-genererat innehåll innan de publiceras).

Under varje inlägg så finns en länk där en intresserad användare kan analysera posten och/eller ta fram ett svar mha AI som endast visas för den användaren.

De som vill ha hjälp av AI får det automatiskt, vi som varit med ett tag behöver inte för 100:e gången fråga om budget och påpeka att geometri är viktigare än märke när en nykomling ber om cykelråd, och de som vill slippa AI behöver inte se det.

Men förutom att det kostar en slant att använda AI:n i ovanstående så antar jag att detta tyvärr skulle leda till en långsam forum-död. Jag skulle dock vilja bygga/testa ett system byggt enligt de här principerna för att se hur det skulle fungera, någon som känner till ett forum som fungerar enligt ovanstående?

 

[JPL]

När man startar en tråd så borde ett AI-svar genereras, detta visas i någon form av speciell ruta som tydliggör att det är AI, i sina inställningar kan man ställa in att automatiskt dölja detta.

Sedan förbjuder vi inklistring av svar från AI (vilket kontrolleras genom att svar analyseras för AI-genererat innehåll innan de publiceras).

Under varje inlägg så finns en länk där en intresserad användare kan analysera posten och/eller ta fram ett svar mha AI som endast visas för den användaren.

De som vill ha hjälp av AI får det automatiskt, vi som varit med ett tag behöver inte för 100:e gången fråga om budget och påpeka att geometri är viktigare än märke när en nykomling ber om cykelråd, och de som vill slippa AI behöver inte se det.

Men förutom att det kostar en slant att använda AI:n i ovanstående så antar jag att detta tyvärr skulle leda till en långsam forum-död. Jag skulle dock vilja bygga/testa ett system byggt enligt de här principerna för att se hur det skulle fungera, någon som känner till ett forum som fungerar enligt ovanstående?

Vad är meningen med det? Om du ställer en fråga på forumet så är den riktad med önskemål om svar från foruminnevånare (människor), vill du ha AI-genererat svar så ställer man väl frågan till valfri AI-modell?

 

[Mange.]

Fantastiskt ju, att man förväntar sig en diskussion kring X och önskar massa olika aspekter och synpunkter från faktiska användare. Så får man en proxy av någon till någonting som man förmodligen redan gjort innan man kom fram till att X är nog rätt. Dessutom förmodligen felaktigt promptad utifrån ens egna förutsättningar.
AI är toppen, men har svårt att förklara varför olika cykelmodeller beter sig olika i styrning med packväskor

 

[erik h]

https://www.cs.ucdavis.edu/~koehl/Teaching/ECS188/PDF_files/Machine_stops.pdf

“The Machine stops.”
“What do you say?”
“The Machine is stopping, I know it, I know the signs.”

 

[GoranS]

Fantastiskt ju, att man förväntar sig en diskussion kring X och önskar massa olika aspekter och synpunkter från faktiska användare. Så får man en proxy av någon till någonting som man förmodligen redan gjort innan man kom fram till att X är nog rätt. Dessutom förmodligen felaktigt promptad utifrån ens egna förutsättningar.
AI är toppen, men har svårt att förklara varför olika cykelmodeller beter sig olika i styrning med packväskor

Har du testat att "prompta" strängen "Förklara varför olika cykelmodeller beter sig olika i styrning med packväskor."?