Hur var det nu med stark AI?

Thomas Svensson skriver, i en kommentar till Dennett:

Spinozas värld 3 [...] kan man förstås tänka sig som möjlig att behärska av en artificiell intelligens. Men [...] den objektiva värld 3 [är] död utan ett tolkande och handlande subjekt. På samma sätt är det därmed med AI, den kan användas som hjälpmedel att organisera och utveckla objekt i värld tre, men står sig slätt i förhållandet till den fysiska världen utan hjälp av mentala processer, utan värld två.

Jag kan inte låta bli att vifta lite med flaggan för Dennett och för AI.

Datorer lämpar sig förvisso för att sortera och söka i system av kodifierad kunskap.

Skeptiker använder ofta begrepp som ”tolkande och handlande subjekt” och ”mentala processer” i sin kritik mot idén om (”genuin”) artificiell intelligens. Man brukar också ofta framhålla vikten av integration med värld ett, alltså med den fysiska världen.

Frågan är emellertid var gränsen går – om det finns någon tydlig gräns – mellan det datorer bevisligen kan göra (bra) och det som vi kallar ”tolkning”, ”handlande” och ”mentala processer”. Om det inte finns någon sådan gräns, blir även ordet ”subjekt” problematiskt.

Jag tror personligen att s.k. stark AI i princip är möjlig. Att den hittills har framstått som praktiskt ouppnåelig beror vare sig på fysiska eller metafysiska begränsningar utan på svårigheterna att specificera exakt (eller kanske inte fullt så exakt) hur en intelligent människa fungerar.

Kanske är det så att dessa svårigheter är oöverkomliga för oss: kanske övergår det varje möjligt medvetandes kapacitet att analysera sig själv. Det vore i så fall en ganska elegant filosofisk ironi. Men om det är så, kommer vi aldrig att kunna veta det – en variant av halt-problemet. Och isåfall kan vi heller aldrig utesluta (den principiella) möjligheten till stark AI.

Notera att detta inte innebär ett hemfallande till transcendenta förklaringar av intelligens. Att något är praktiskt ouppnåeligt innebär inte att det är teoretiskt omöjligt.

(Det var länge sedan jag pysslade med dylika spörsmål, och jag behöver troligen läsa in mig. Men jag skulle tro att Dennett m.fl. anför liknande resonemang.)