Wann haben Sie zuletzt das Ergebnis eines Taschenrechners überprüft? Kann sich überhaupt noch jemand vorstellen, dass man früher „per Hand“ gerechnet hat?
Seit Jahrzehnten werden wir dazu erzogen, Technik zu vertrauen. Zuerst der Taschenrechner, dann die Computer, heute Smartphones und Tablets. Die Ingenieurskunst hat hier wirklich wahnsinnige und verrückte Geräte hervorgebracht. Technik ist berechenbar, deterministisch, nachvollziehbar und – im Umkehrschluss – vorhersehbar.
Unsere Generation hat sich daran gewöhnt, der Technik zu vertrauen, wir haben auch aufgehört, die Ergebnisse von Taschenrechnern per Zettel und Stift zu überprüfen und wir vertrauen Computern häufig mehr als den Nutzern, die sie bedienen.
𝗨𝗻𝗱 𝗷𝗲𝘁𝘇𝘁 𝗸𝗼𝗺𝗺𝘁 𝗞𝗜 – 𝘂𝗻𝗱 𝗮𝘂𝗳 𝗲𝗶𝗻𝗺𝗮𝗹 𝗸𝗹𝗮𝗽𝗽𝘁 𝗱𝗮𝘀 𝘀𝗼 𝗻𝗶𝗰𝗵𝘁 𝗺𝗲𝗵𝗿… !
Aufgrund der Struktur von KI (Neuronale Netze, Trainingsdaten, Gewichte) und der unfassbar großen Datenmengen, entstehen Systeme, die für Menschen (und auch für andere Maschinen) nicht mehr nachvollziehbar sind. KI ist nicht erklärbar und nicht berechenbar. Die Folgen sind unabsehbar und werden uns über Jahre beschäftigen.
Unsere Gesellschaft kann künftig nicht mehr auf das gewohnte Vertrauen in Technik setzen. KI Systeme müssen anders eingeordnet und ihre Ergebnisse anders bewertet werden. Eine riesen Herausforderung in der Lehre an der PFH Private Hochschule Göttingen und auch im Sachverständigenwesen ( Streitz Hoppen & Partner – IT-Sachverständige ). Aber: wir stellen uns dieser Herausorderung, denn wir dürfen uns nicht darauf „verlassen“, dass das schon irgendwie passen wird.
Aktuell sind wir in einer Phase der Faszination und vor allem in einer Phase, in der die Nutzer von KI noch selbst beurteilen können, ob Ergebnisse Sinn machen oder nicht. Wir haben (noch) das Fachwissen, um die Ergebnisse einschätzen und bewerten zu können.
𝗔𝗯𝗲𝗿 𝘄𝗮𝘀 𝗶𝘀𝘁 𝗶𝗻 𝟱 𝗝𝗮𝗵𝗿𝗲𝗻? 𝗪𝗮𝘀 𝗽𝗮𝘀𝘀𝗶𝗲𝗿𝘁, 𝘄𝗲𝗻𝗻 𝘄𝗶𝗿 𝘀𝗲𝗹𝗯𝘀𝘁 𝗻𝗶𝗰𝗵𝘁 𝗺𝗲𝗵𝗿 𝗯𝗲𝘂𝗿𝘁𝗲𝗶𝗹𝗲𝗻 𝗸𝗼̈𝗻𝗻𝗲𝗻, 𝗼𝗯 𝗲𝗶𝗻 𝗘𝗿𝗴𝗲𝗯𝗻𝗶𝘀 𝗦𝗶𝗻𝗻 𝗺𝗮𝗰𝗵𝘁, 𝘄𝗲𝗶𝗹 𝘄𝗶𝗿 – 𝗶𝗺 𝘂̈𝗯𝗲𝗿𝘁𝗿𝗮𝗴𝗲𝗻𝗲𝗻 𝗦𝗶𝗻𝗻 – 𝘃𝗲𝗿𝗹𝗲𝗿𝗻𝘁 𝗵𝗮𝗯𝗲𝗻, 𝗺𝗶𝘁 𝗭𝗲𝘁𝘁𝗲𝗹 𝘂𝗻𝗱 𝗦𝘁𝗶𝗳𝘁 𝘇𝘂 𝗿𝗲𝗰𝗵𝗻𝗲𝗻?
Vielleicht sollten wir auch mal unseren Taschenrechner überprüfen… denn hier würde auch niemandem von uns auffallen, wenn bei der im Bild gezeigten Rechnung ein falsches Ergebnis produziert werden würde.
𝗕𝗹𝗶𝗻𝗱𝗲𝘀 𝗩𝗲𝗿𝘁𝗿𝗮𝘂𝗲𝗻 𝗶𝗻 𝗧𝗲𝗰𝗵𝗻𝗶𝗸 𝗶𝘀𝘁 𝗴𝗲𝗳𝗮̈𝗵𝗿𝗹𝗶𝗰𝗵 – 𝘂𝗻𝗱 𝗶𝗺 𝗞𝗜-𝗞𝗼𝗻𝘁𝗲𝘅𝘁 𝗲𝗿𝘀𝘁 𝗿𝗲𝗰𝗵𝘁…
Das paradoxe daran: wir trauen einem Taschenrechner mehr als uns selbst… verrückt.
#informatikersindcool#kiistdaundwirdbleiben
