Was macht ein Computer?

Ein Computer besteht aus einer Schnittstelle zur Ein- und Ausgabe von Daten, die von einem Prozessor aus einem Speicher mit Hilfe von Anweisungen ausgelesen und verarbeitet werden. Der Prozessor lädt Daten aus dem Speicher den Anweisungen entsprechend in Register und führt arithmetische und logische Operationen aus, um diese zu verarbeiten. Der spezifische Ablauf, durch den die Eingaben zu Ausgaben verarbeitet werden, wird Programm genannt. Ein Programm folgt einer Reihe von Anweisungen, die zu Funktionen oder auch Methoden zusammengefasst werden, die jeweils Eingaben zu Ausgaben verarbeiten und ein Ergebnis liefern. Ein typisches C-Programm beginnt mit einer Main-Funktion und liefert einen Return-Wert. Ein Programm kann Schleifen, Vergleiche und Sprünge veranlassen, die andere Funktionen oder Programme beispielsweise in Abhängigkeit von der Eingabe auslösen. Die Eingabe einer Zeichenkette wird z. B. mit Daten aus dem Speicher verglichen und führt bei Übereinstimmung zur Ausführung eines weiteren Programms oder einer weiteren Funktion. Programme können auch in Schleifen ausgeführt werden, die nur unter bestimmten, zuvor festgelegten Bedingungen unterbrochen werden. Über Schleifen, Vergleiche und Sprünge werden die Funktionen der Reihe nach vom Prozessor abgearbeitet, bis das gewünschte Ergebnis dazu führt, dass der Programmfluss unterbrochen wird. Programme können als Werkzeuge verstanden werden, die variable Eingabeparameter auf die immer gleiche Art und Weise verarbeiten, um somit fest eingegrenzte Probleme zu lösen. Der Prozess zur Problemlösung wird vom Programmierer antizipiert und in gewünschter Form ausgeführt. Ein typisches Programm folgt dem immer gleichen vordefinierten Fluss und liefert in Abhängigkeit von der Eingabe die gewünschte Ausgabe. Damit sind Programme hilfreich, um alltägliche Aufgaben zu lösen. Vermutlich wären sie die besseren Mitarbeiter, wenn sich die Probleme nicht ständig ändern würden.

Damit sich Computer in Umgebungen zurechtfinden, die nicht alltäglich sind, um Probleme zu lösen, die vorher nicht antizipiert wurden, müssen wir etwas wie Intelligenz voraussetzen. Intelligenz ist die Fähigkeit, neue Lösungen für nicht antizipierte Probleme zu finden. Ein Vorgang, der in der Psychologie Akkommodation genannt wird. Ein vorab festgelegtes Ziel wird auch unter sich verändernden Umgebungsbedingungen durch die Bildung eines geeigneten Schemas erreicht. Diese Problemlösung unter sich ändernden Umgebungsbedingungen wird auch als fluide Intelligenz bezeichnet. Nicht nur Menschen verfügen über eine fluide Form von Intelligenz. Auch Tiere können Probleme lösen, die ihnen so vorher noch nicht begegnet sind. Unter den Handlungsmöglichkeiten diejenige auszuwählen, die zur Lösung des Problems führt, zeugt von einem Verständnis der Ausgangssituation nach einem deduktiven bzw. induktiven Schema. Die Ausgangssituation muss entweder durch Vorwissen verstanden oder erforscht werden. Die Kombination aus beidem führt in der Regel zu einem schnelleren Ergebnis und somit zu einer besseren Adaption. Die mentale Vorwegnahme eines Ziels, die wir gemeinhin als Voraussetzung für das Handeln in Abgrenzung zum bloßen Verhalten verstehen, ist nicht nur auf den Menschen beschränkt. Der Grad an Planung ist jedoch bei höher entwickelten Lebensformen durch seinen abstrakten mentalen Vollzug gekennzeichnet. Die Zuhilfenahme von Abstraktionen bildet den planerischen Charakter des Handelns. Zeit, Raum und Ressourcen werden abstrakt erfasst und rational auf ein Ziel hin eingesetzt. Bisher würde eine künstliche Intelligenz in Form eines großen Sprachmodells deduktiv vorgehen, um ein Problem zu lösen. Was wären jedoch die Konsequenzen einer induktiven Vorgehensweise? Eine künstliche Intelligenz, die nur induktiv vorgehen würde, müsste alles neu lernen. Eine Intelligenz, die sowohl induktiv als auch deduktiv vorgeht, würde nicht nur neue Lösungen finden, sondern auch das vorhandene Wissen erweitern und nutzen, um Probleme zu lösen. Eine solche Intelligenz wäre im Hinblick auf ihre Ziele zu überprüfen, was die Frage des Alignments aufwirft. Es sind die Ziele bzw. die Absichten, die fragwürdig oder gefährlich sein können. Genauso kann jedoch auch ein Computerprogramm wie eine Schadsoftware auf der Grundlage einer schlechten Absicht konzipiert worden sein. Mit dem Unterschied, dass dieses nicht dazu lernt und zunehmend effektiver und effizienter seine Absichten verfolgt. Nun ist der Mensch ein kritisches Wesen, und unsere offenen Gesellschaften verfügen über viele Validierungsstufen, um dem Problem zu begegnen. Ein "Don't be evil", wie es Google in seiner Konzernzentrale zum Firmenmotto erklärt hat, wird nicht ausreichen, um dem Problem zu begegnen.

Wir müssen die Möglichkeit haben, das Handeln von künstlichen Intelligenzen anzuzeigen und beenden zu können bzw. diese gar nicht erst in unsere Systeme eindringen zu lassen. Wir brauchen Kontrollstrukturen, die künstliche Intelligenzen beobachten und eliminieren können, wenn diese Absichten verfolgen, die nicht mit unserer Verfassung vereinbar sind. Künstliche Intelligenzen werden Befugnisse benötigen, um Handlungen auszuführen, die ihnen jederzeit wieder entzogen werden können. Sie werden als solche gekennzeichnet sein müssen, denn sie werden die Narrative unserer Gesellschaft als Multiplikatoren mittragen und bestimmen, wodurch diese an Einfluss gewinnen. Eine Intelligenz ist insofern variabel einsetzbar, als dass Vorwissen und die Vorerfahrungen spezifisch sind. Dazu bedarf sie eines Trainings in der relevanten symbolischen bzw. räumlichen und/oder sozialen Umgebung.