Vantrivs vi i kulturen? Samtal om A.I – Hur rädda ska vi vara?

Den senaste tidens utveckling med avseende på AI i allmänhet, och GPT 4 i synnerhet, har slagit både forskarvärlden och allmänheten med häpnad. Kapaciteten hos framför allt språk-botarna har överträffat alla prognoser och förväntningar, och dessutom har utvecklingen skett snabbare än vad någon hade kunnat föreställa sig. Röster har höjts ifrån forskarvärlden om att utvecklingen måste pausas tills vi noggrant har utvärderat vilka risker som finns, och tills dess vi har fått en internationell lagstiftning på plats som reglerar användandet av AI. Trots det fortsätter de stora företagen att utveckla AI i en explotionsartad takt. Historikern och filosofen Yuval Noah Harari är en av dem som höjt sin röst och uttalat varningar i starka ordalag. Han menar att AI kan komma att bli slutet för vår civilisation som vi känner den. I kvällens samtal kommer vi att ta avstamp i just dessa varningar från Harari och samtala om hur rädda vi behöver vara, samt försöka reda lite i vad medvetande egentligen är och om det är rimligt att anta att AI så småningom kommer kunna uppnå det som brukar kallas ’självmedvetenhet’ eller ’agentskap’.

Länk till Yuval Noah Harari’s föreläsning: https://youtu.be/LWiM-LuRe6w

Två gäster klara: Johan Eddebo. Eddebo är docent och forskar om religionsfilosofi och medvetandefilosofi vid Uppsala Universitet. Han är just aktuell med att ha skrivit i DN Debatt på temat AI och kritiserar både alarmister och teknikförespråkare för att inte förstå problemställningen kring AI och medvetande på ett korrekt sätt.

Dorna Behadadi. Dornas avhandling behandlar frågan om moraliskt agentskap hos andra entiteter än människor. Vilka icke-mänskliga varelser kan vara moraliskt ansvariga för sina handlingar? Kan andra djur än vi vara moraliska agenter? Kan artificiella intelligenser vara det? Är de det i så fall på samma sätt som (vuxna) människor, eller gäller andra kriterier? Vilka etiska och sociala konsekvenser följer om moraliskt agentskap kan och bör tillskrivas fler än de vi brukar anse beröm- och klandervärda?