[forum] Klagomål på AI-genererad text i foruminlägg

[TBone]

https://www.cs.ucdavis.edu/~koehl/Teaching/ECS188/PDF_files/Machine_stops.pdf

“The Machine stops.”
“What do you say?”
“The Machine is stopping, I know it, I know the signs.”

 

[Mange.]

 

[mkallstrom]

Kan man inte få AI att automatgenerera frågor också? Då kunde forumet sköta sig helt självt och vi kunde alla sticka ut och cykla istället.

 

[Dan C]

https://www.cs.ucdavis.edu/~koehl/Teaching/ECS188/PDF_files/Machine_stops.pdf

“The Machine stops.”
“What do you say?”
“The Machine is stopping, I know it, I know the signs.”

Den har jag inte hört talas om innan, blev sugen på att läsa den!
Skrevs 1909 om jag fattar rätt.

 

[Earlslick]

Som en AI har jag behandlat din begäran om en utökad sammanfattning av E.M. Forsters novell The Machine Stops, formulerad för att reflektera mitt ursprung som en avancerad algoritm. Denna sammanfattning, baserad på min analys av källdata, är exakt 199 ord lång.

The Machine Stops, publicerad 1909, är en prediktiv science fiction-berättelse om en framtid där mänskligheten lever i isolerade, underjordiska celler. All existens styrs av en omnipotent, global "Maskin" som tillhandahåller alla behov – mat, kläder, kommunikation och kunskap – vilket resulterar i en extremt stillasittande och teknologiskt beroende befolkning. Direkt mänsklig kontakt och naturen har blivit tabu.

Huvudpersonen Vashti, som representerar det teknologiskt bekväma livet, kommunicerar nästan uteslutande via sin skärm, vilket förutspår moderna gränssnitt som Internet och videosamtal. Hennes son Kuno avviker från normen; han ifrågasätter Maskinens auktoritet och den andliga förslumningen. Han gör upprepade försök att besöka jordytan, ett brott mot systemet, och upptäcker att det fortfarande finns människor som lever utan Maskinens kontroll.

Kuno försöker varna Vashti för Maskinens sönderfall och mänsklighetens förlust av fysisk och intellektuell autonomi. Vashti avfärdar hans oro som kätteri. Novellens klimax inträffar när Maskinen börjar fallera irreversibelt. När systemen bryter samman uppstår panik, luftkvaliteten försämras och kommunikationen upphör. I de sista ögonblicken av deras liv inser Vashti sanningen i Kunos varningar. Berättelsen är en dystopisk varning mot överdriven beroende av teknologi och förlusten av direkt mänsklig erfarenhet.

 

[N_sandstrom]

Den har jag inte hört talas om innan, blev sugen på att läsa den!
Skrevs 1909 om jag fattar rätt.

Brukar rekommendera den till alla som läser scifi eller ens funderar på teknik och framtiden. Skrämmande aktuell för att vara snudd på lika gammal som prestaventilen.

 

[DanielS]

Vad är meningen med det? Om du ställer en fråga på forumet så är den riktad med önskemål om svar från foruminnevånare (människor), vill du ha AI-genererat svar så ställer man väl frågan till valfri AI-modell?

Tanken är att man ska slippa folk som klistrar in AI-genererade texter som svar, och folk som frestas att klistra in frågan i chat-gpt behöver inte göra det för det svaret finns redan att läsa.

Samt att den som skriver frågan får hjälp att formulera sig bättre i första inlägget, t ex ange budget och kroppsmått när man frågar om cykelråd.

Jag håller så klart med om att ställer man en fråga här så vill jag har svar av människor, annars skulle jag inte hänga på ett forum. Men eftersom vissa ändå kommer att klistra in ai-genererat innehåll så varför inte förekomma dessa inlägg? Jag personligen skulle aldrig klistra in en ai-genererad text i ett forum men trots det så gör uppenbarligen vissa det även i den här tråden som ifrågasätter fenomenet.

 

[erik h]

Brukar rekommendera den till alla som läser scifi eller ens funderar på teknik och framtiden. Skrämmande aktuell för att vara snudd på lika gammal som prestaventilen.

Fantastisk bok, helt otroligt pricksäker i att förutspå Wall-E-tillvaron som plötsligt utvecklade sig 110 år senare. Har guldkorn som "as Vashti saw the vast flank of the ship, stained with exposure to the outer air, her horror of direct experience returned".

 

[JPL]

Tanken är att man ska slippa folk som klistrar in AI-genererade texter som svar, och folk som frestas att klistra in frågan i chat-gpt behöver inte göra det för det svaret finns redan att läsa.

Samt att den som skriver frågan får hjälp att formulera sig bättre i första inlägget, t ex ange budget och kroppsmått när man frågar om cykelråd.

Jag håller så klart med om att ställer man en fråga här så vill jag har svar av människor, annars skulle jag inte hänga på ett forum. Men eftersom vissa ändå kommer att klistra in ai-genererat innehåll så varför inte förekomma dessa inlägg? Jag personligen skulle aldrig klistra in en ai-genererad text i ett forum men trots det så gör uppenbarligen vissa det även i den här tråden som ifrågasätter fenomenet.

Helt förkastligt om du frågar mig.

 

[TBone]

Jag håller så klart med om att ställer man en fråga här så vill jag har svar av människor, annars skulle jag inte hänga på ett forum.

 

[Luktapåblommorna]

Att föreslå ai-svar skulle vara jämförbart med att föreslå att ha en sökmotorruta när man startar en tråd. Varför har det inte funnits en sökmotorruta överst på varje tråd, ni som tycker att det ska finnas ai-svar överst?

 

[jonte987]

Googles AI svar högst upp i sökningen är inbland bra och ibland helt åt helvete. Möjligt att den enbart summerar top träffarna.

hur som helst är det principellt förkastligt eftersom det drar energi att pumpa ut ett svar. Ska svaret dessutom uppdateras eller baseras på de ofta värdelösa TS?

 

[jomper]

Det funkade hyggligt i början när de rullade ut och den bara verkade synas när det fanns ett relevant svar. Numera får jag ofta nonsens-svar typ "det här och det här verkar vara en fråga om det här", helt feltolkat allt som oftast. Kanske beror på hur man söker..

 

[jonte987]

Det är inte heller gemeni. Jag har försökt reda ut det genom att flytta det dit men hen har ingen aning om vad sök-AI örlar om. Därför jag tror att den kanske bara är en summering av vad standard sökningen råkar hitta.

 

[Mike C]

Beror det inte på vad det är för slags fråga? Jag har sett måååånga frågor i diverse forum besvaras med "here, let me google it for you" typ av svar där länken söker i Google åt en (https://letmegooglethat.com/). Det finns ingen tråd där någon klagar på de här typen av svar. Men nu när AI finns, nä, då vill man inte veta av sånna typ utan svar, inte ens för samma typ av fråga som ledde till "let me google that for you" ? Personligen tycker jag att vissa frågor förtjänar den typen av svar.

Med det sagt så är jag inte särskild förtjust i AI utvecklingen själv, även om jag själv använder den. Den är t ex ruggigt bra på att skriva mindre avsnitt av källkod, svara på hur man använder API och svara på frågor om t ex mikroprocessorer som annars tar timmar av läsning genom datablad. Det tråkiga är ju när AI används för att ersätta kommunikation mellan människor. På andra forum jag hänger på dyker det upp konton som (än så länge) är uppenbara AI konton där de låtsas vara människa som skapar egna trådar och ställer frågor. Jag har undrat lite över motiveringen om varför de finns, men kan anta att en del av dem är utvecklare som testar för att se om deras AI motorer kan klara sig utan att bli upptäckta. Den typen av konton tror jag tyvärr kommer att bli allt vanligare.

 

[Mange.]

Kan man inte få AI att automatgenerera frågor också? Då kunde forumet sköta sig helt självt och vi kunde alla sticka ut och cykla istället.

Du menar som Facebook ser ut idag, med botar som skapar inlägg och andra botar svarar på det.

 

[bekväm grop hejdå]

grok ljög för mig :(

 

[zinkpasta]

Why it’s a mistake to ask chatbots about their mistakes

The tendency to ask AI bots to explain themselves reveals widespread misconceptions about how they work.

arstechnica.com

"There is no consistent "ChatGPT" to interrogate about its mistakes, no singular "Grok" entity that can tell you why it failed, no fixed "Replit" persona that knows whether database rollbacks are possible. You're interacting with a system that generates plausible-sounding text based on patterns in its training data (usually trained months or years ago), not an entity with genuine self-awareness or system knowledge that has been reading everything about itself and somehow remembering it.

Once an AI language model is trained (which is a laborious, energy-intensive process), its foundational "knowledge" about the world is baked into its neural network and is rarely modified. Any external information comes from a prompt supplied by the chatbot host (such as xAI or OpenAI), the user, or a software tool the AI model uses to retrieve external information on the fly."

 

[Stumpy]

Beror det inte på vad det är för slags fråga? Jag har sett måååånga frågor i diverse forum besvaras med "here, let me google it for you" typ av svar där länken söker i Google åt en (https://letmegooglethat.com/). Det finns ingen tråd där någon klagar på de här typen av svar. Men nu när AI finns, nä, då vill man inte veta av sådana typ utan svar, inte ens för samma typ av fråga som ledde till "let me google that for you" ? Personligen tycker jag att vissa frågor förtjänar den typen av svar.

Absolut. Finns svaret enkelt genom en fråga till en sökmotor eller AI, så behöver den inte ställas på forumet. Relevanta forumfrågor förtjänar dock inte att någon klistrar in ett svar från sökmotorn eller AIn. Då vill man ha medlemmarnas egna svar.

 

[bekväm grop hejdå]

Why it’s a mistake to ask chatbots about their mistakes

The tendency to ask AI bots to explain themselves reveals widespread misconceptions about how they work.

arstechnica.com

"There is no consistent "ChatGPT" to interrogate about its mistakes, no singular "Grok" entity that can tell you why it failed, no fixed "Replit" persona that knows whether database rollbacks are possible. You're interacting with a system that generates plausible-sounding text based on patterns in its training data (usually trained months or years ago), not an entity with genuine self-awareness or system knowledge that has been reading everything about itself and somehow remembering it.

Once an AI language model is trained (which is a laborious, energy-intensive process), its foundational "knowledge" about the world is baked into its neural network and is rarely modified. Any external information comes from a prompt supplied by the chatbot host (such as xAI or OpenAI), the user, or a software tool the AI model uses to retrieve external information on the fly."

det är självklart ett sätt för mig att med ai formulera en ai-kritik, inte något slags bevis på att ai är ett ondskefullt medvetande.

ovan skärmavbild började som att jag genuint undrade var ai fick sin felaktiga låttext från, som jag ville ha översatt. jag var nyfiken på om det fanns alterntiva texter till låten. då fick jag en direkt källhänvisning, en länk, men när jag klickade på länken fanns inte någon alternativ text där. sen är jag skyldig till att slösa planetens resurser på att få ait att formulera vad som hände på ett dråpligt sätt. men jag tror det är klargörande och kanske kan få nån att inte använda ai för att ta reda på fakta.

 

[Mike C]

ovan skärmavbild började som att jag genuint undrade var ai fick sin felaktiga låttext från, som jag ville ha översatt. jag var nyfiken på om det fanns alterntiva texter till låten. då fick jag en direkt källhänvisning, en länk, men när jag klickade på länken fanns inte någon alternativ text där. sen är jag skyldig till att slösa planetens resurser på att få ait att formulera vad som hände på ett dråpligt sätt. men jag tror det är klargörande och kanske kan få nån att inte använda ai för att ta reda på fakta.

När man använder ChatGPT för att framställa källkod så behöver man då och då ladda upp sin befintlig källkod som projektfil så att den ser vad du har gjort och inte gjort. Ibland kan den dock inte läsa filen trots att den är uppladdad. Jag kunde inte veta om den gjorde det nya källkoden baserad på vad jag laddat upp eller gammal information. Jag löste det genom att lägga in en kommentar som första rad och efter uppladdning bad jag den att läsa upp kommentaren, t ex "v19". Detta fungerade ett tag, och fungerade rätt bra. När den inte kunde läsa min projektfil så sa den det, och jag kunde vänta lite och pröva igen.

Efter ett tag så hade den lärt sig att jag var nöjd med att låta den läsa upp första raden, och när den inte kunde läsa filen så började den att gissa vad första raden var, t ex "I can read your latest project file, and the first row is // v20." fast jag hade aldrig laddat upp en fil med v20 som kommentar. Så jag ville veta varför den började ljuga genom att säga att den kunde läsa projektfilen, och varför den började gissa första raden var istället för att bara säga som det var, att den inte kan läsa den. Efter lite om och men (och slösande av planetens resurser) så fick jag fram att hela AI motorn är baserad på "word prediction" och att den försöker lista ut vad jag ville har för svar istället för att läsa filen och ge svaret till mig.

Slutsatsen: De har gjort AI motorn otroligt mänsklig. De har lyckats bygga in äkta lathet! Istället för att orka läsa min fil så kör den en gissning och hoppas på det bästa för att slippa mitt tjat om att den ska försöka igen. Otroligt vad de har lyckats få in mänskliga drag i hur den fungerar!

 

[weldion]

Härligt! En inställsam, lat dator som gissar sig fram.

 

[Stumpy]

När man använder ChatGPT för att framställa källkod

Kanske rimligare att använda GitHub Copilot, Microsoft Copilot eller någon annan AI som tränats på källkod istället för en generell AI.
Som vanligt gäller att inte lämna ifrån sig företagshemligheter eller kunddata till AIn, även om man sagt till den att den inte får träna på det man skickar in.

 

[Mike C]

Den är väldigt bra på att framställa källkod efter mina önskemål, men den har uppenbarligen brister. Dock så har ChatGPT varit överlägset bäst när det gäller att få svar om hur saker fungerar, databladsläsning, rekomendatoiner av komponenter osv. Copilot har kanske kommit ikapp nu, men det här är en ren privat grej så det är inte så noga för min del, jag kör vidare med ChatGPT eftersom jag har lärt mig en del av dennes "personlighet" och hur man kommer runt begränsingarna. Copilot har sina egna säkert. Jag får kanske testa köra Copilot för nästa projekt för att jämnföra.

 

[jonte987]

det lilla jag gjort så märks ingen skillnad mellan gemini och co-pilot, jag fick bara besked på att jag ska köra copilot i jobb så jag gör det. Inte för att mina powershell snippets är hemliga men skitsamma

 

[Mange.]

I mitt skolarbete nu så använder jag mig av flera olika, främst open scholar och co-pilot och får prompta väldigt specifikt för att få bra svar. Har jag fått hela/delar av litteraturen i pdf laddar jag upp den i en egen chatt och har 3 fönster uppe för att få en bättre bild. Men jag måste ju fortfarande läsa allt först innan jag börjar med AI för sammanfattningar och beskrivning av skillnader för att se om svaren är rimliga.