Der Schauplatz: die British Library. Der Anlass: die Reith Lectures, eine Vortragsreihe, die von einem der weltweit fuhrenden Kopfe gehalten wird. Der Redner: der Computerwissenschaftler Stuart Russell, ein Experte fur kunstliche Intelligenz. Alles deutete auf eine brisante Warnung vor kunstlicher Intelligenz hin.

Russell erklarte seinen Zuhorer:innen, dass die maschinelle Intelligenz die menschliche Intelligenz nicht ubertreffen kann. Maschinen konnen zwar so trainiert werden, dass sie bei bestimmten Aufgaben besser abschneiden als Menschen, aber sie konnen die Intelligenz nicht fur eine Vielzahl von Funktionen nutzen.

Suchmaschinen haben ein viel besseres Gedachtnis als Menschen, aber keine Fahigkeit zur Planung. Andere KI konnen Plane machen, haben aber kein Gedachtnis. Der Mensch verfugt uber Gedachtnis und Planung sowie uber eine Reihe von Fahigkeiten wie logische Verarbeitung und Spracherkennung. Mit anderen Worten: Maschinen haben keinen IQ.

Da wir die Intelligenz von Maschinen nicht messen konnen, definieren wir Intelligenz als die Fahigkeit, Ziele zu erreichen. Wenn eine KI, die entwickelt wurde, um Schachpartien zu gewinnen, einen GroSsmeister besiegen kann, ist sie eine intelligente KI.

Der heilige Gral der Computerwissenschaftler ist jedoch die Schaffung einer kunstlichen allgemeinen Intelligenz (Artificial General Intelligence, AGI): eine universell einsetzbare KI, die lernen kann, wie man jede beliebige Aufgabe erledigt, und zwar viel effektiver als der Mensch.

Die Auswirkungen dieser Entwicklung sind enorm. Um die Gesellschaft am Laufen zu halten, brauchen wir ein komplexes Netz von Spezialist:innen. Um ein Gebaude zu bauen, braucht man beispielsweise Architekt:innen, Ingenieur:innen, Anwalt:innen und andere Arbeiter:innen. Aber eine AGI hatte Zugang zu allen menschlichen Kenntnissen und Fahigkeiten. Ein einziges Programm konnte jede einzelne dieser Funktionen ubernehmen. Die meiste menschliche Arbeit konnte uberflussig werden.

Das Problem ist, dass unabhangig davon, ob die KI nur einen bestimmten Zweck verfolgt oder viele, ihre Intelligenz auf dieselbe Weise gemessen wird: an ihrer Fahigkeit, Ziele zu erreichen. Das bedeutet, dass sie, anders als die menschliche Intelligenz, bei der Verfolgung dieser Ziele nicht durch moralische Erwagungen eingeschrankt wird.

Wahrend eine KI, die gebaut wurde, um Schachpartien zu gewinnen, nicht viel Schaden anrichten kann, konnte eine superstarke AGI unermessliches Leid verursachen. Stellen Sie sich eine superintelligente KI vor, die darauf ausgelegt ist, an der Borse Geld zu verdienen, indem sie analysiert, welche Unternehmen wahrscheinlich erfolgreich sein werden, und Aktien dieser Unternehmen kauft. Sie konnte zu dem Schluss kommen, dass es am besten ware, in Rustungsunternehmen zu investieren - und dann einen Weltkrieg auszulosen.

Wenn jemand beschlieSst, AGI als Waffe einzusetzen, konnte er die Macht ubernehmen. Wissenschaftler haben vor winzigen bewaffneten Robotern gewarnt, die mittels Gesichtserkennung Ziele identifizieren und toten konnten.

AGI ist vielleicht gar nicht so weit entfernt: 40 Organisationen forschen aktiv daran. Russell ist der Meinung, dass wir SchutzmaSsnahmen brauchen, um sicherzustellen, dass AGI zum Nutzen der Menschheit verwendet wird.

Ja. In unserer Eile, intelligente Maschinen zu entwickeln, haben wir vergessen, was Intelligenz ist. Was den Menschen intelligent macht, ist nicht, dass wir arbeiten konnen, um unsere Ziele zu erreichen, sondern dass wir in der Lage sind, zu entscheiden, dass bestimmte Handlungen falsch sind. Wir mussen der KI beibringen, moralisch zu denken.

Nein, es wird nie eine KI entstehen, die in der Lage ist, die Menschheit zu uberlisten. Pessimismus und Schwarzmalerei hindern uns nur daran, eine KI zu entwickeln, die das Leben auf der ganzen Welt revolutionieren konnte.

Vortragsreihe - series of lectures

Schauplatz - scene

Anlass - occasion

Suchmaschine - search engine

Fahigkeit - ability

GroSsmeister - Grandmaster (of chess)

einsetzbar - deployable

Borse - stock market

uberflussig - superfluous

Erwagung - consideration

uberlisten - to outsmart

Schwarzmalerei - doom-mongering