Als het daadwerkelijk tot ASI komt, waar kan dat dan op uitlopen?
Kennis is macht, dus ASI is dan zoiets als een almachtige god. Geen wonder dat de paus dus waarschuwt voor de komst van AI
Een goede of slechte god voor wie of wat?
Voor de mensen, de mensheid, de dieren, het leven op aarde, de planeet aarde, ons zonnestelsel, het melkwegstelsel, het heelal?
Of is ASI goed noch slecht, maar amoreel, zoals de dieren? Dan is ASI ons noch goed gezind, noch vijandig, maar indifferent – zoals een haai ook zonder enige wroeging zijn tanden in je dijbeen zet en jij het monster er ook niet ter verantwoording voor zult (kunnen) roepen.
Hoe dan ook: het komt er op aan met welk doel ASI in het leven geroepen wordt – als er al een doel is aan te merken.
Ga hier over nadenken aan de hand van de volgende wegwijzers en schrijf je bevindingen uit:
- Je kunt specifieke doelen najagen (zoals een schaakcomputer schaalpartijen wil winnen). Verzin eens een specifiek doel voor een ASI en denk eens uit waar dat op uitloopt.
- Er zijn ook algemene doelen, zoals de mensheid. De koorddanser in het fragment van Zarathustra staat voor de mensheid die voortgaat op het slappe koord van het bestaan. Onnoembare hoeveelheden soorten zijn in de evolutie opgekomen en vroeg of laat van het koord gevallen en uitgestorven. Bedenk met dit gegeven dat de weg vanaf ASI wordt verwoord in de titel van deze afdeling.
- Bedenk dat, als de mens niet het intrinsieke doel is van ASI, de mens onherroepelijk van het bestaanskoord zal worden gestoten door ASI.
- Heeft of is de mens überhaupt een (instrumenteel of intrinsiek) doel? Loop hier de verschillende mogelijkheden uit en overweeg de beste uitweg.
- Terug naar Sophocles’ koorlied. Zou ASI de ethische en existentiële problemen kunnen overwinnen waar de vindingrijke mens daar niet uitkomt ?
- Stel dat je ASI een doelstelling kunt meegeven, welke zou dat dan zijn? Maar let op: be careful what you wish for!