ChatGPT stoppas - får inte längre ge medicinska eller ekonomiska råd

Det har länge varit frestande att behandla AI-modeller som ChatGPT som ett orakel som har svar på allt, oavsett om det handlar om konstiga utslag, ekonomi eller juridiska problem. Men den tiden är officiellt förbi.

Från och med den 29 oktober har OpenAI uppdaterat reglerna för ChatGPT, som nu inte längre får ge specifika medicinska, juridiska eller finansiella råd. Enligt uppgifter från NEXTA ska AI:n nu endast fungera som ett utbildningsverktyg, inte en digital konsult. Anledningen är de enorma riskerna kring ansvar och lagstiftning, techjättarna vill helt enkelt undvika stämningar.

Istället för att ge konkreta svar ska ChatGPT nu enbart förklara principer, gå igenom övergripande mekanismer och hänvisa användare till läkare, jurister eller ekonomiska rådgivare.

Nya gränser: Hälsa, lag och pengar

De nya reglerna är tydliga: ChatGPT får inte längre nämna mediciner, ge doseringar, skapa juridiska mallar eller ge investeringsråd. Det är ett direkt svar på oron kring hur AI kan vilseleda användare i frågor som kräver mänsklig expertis.

Tidigare har många använt ChatGPT för att googla sina symtom och fått allt från lätt uttorkning till cancer som svar. Problemet med det är att AI:n kan inte undersöka dig, beställa tester eller stå till svars om något går fel. Samma gäller inom terapi, även om ChatGPT kan ge lugnande ord, saknar den empati och förståelse för mänskliga känslor.

Det nya förbudet gäller även ekonomi och juridik. ChatGPT kan förklara vad en aktie eller ett lån är, men den känner inte till din privatekonomi, risknivå eller mål. Att be den skriva ett testamente kan dessutom sluta illa, lagarna skiljer sig mellan länder och ett missat krav på underskrift kan göra dokumentet ogiltigt.

Risker med data och etik

En annan stor risk är dataläckor. Allt du skriver in, som personnummer, inkomst eller kontrakt, kan i värsta fall hamna utanför din kontroll. Därför är det dumt att klistra in känsliga dokument i chatten.

Etiskt sett är det också en gråzon att använda ChatGPT för att fuska i skolan eller skapa ”egen” konst. Lärarna känner igen AI-texter direkt, och i längden fuskar du bara dig själv. Inom kreativitet handlar det inte om att låta AI:n skapa åt dig, utan om att använda den som inspiration.

Slutsatsen

De nya reglerna är inte bara en uppdatering, de är ett erkännande av AI:ns begränsningar. ChatGPT kan fortfarande vara ett grymt verktyg för att lära sig och förstå, men det ska inte ersätta mänsklig expertis.