Über 2.000 Forscher sagen die Zukunft der KI voraus

Das Tempo der Entwicklung künstlicher Intelligenz hat einen natürlichen Höhepunkt erreicht. Tools wie GPT-4 , Gemini , Claude usw. und ihre Entwickler behaupten alle, bald jeden Aspekt der Gesellschaft verändern zu können, vom Gesundheitswesen und der Bildung bis hin zu Finanzen und Unterhaltung. Diese rasante Entwicklung wirft immer kritischere Fragen zur Entwicklung der KI auf: die Vorteile der Technologie, ja, aber auch ( vor allem! ) die potenziellen Risiken, die sie für uns alle birgt.

Unter diesen Umständen ist es von entscheidender Bedeutung, den Experten zuzuhören, sie zu verstehen und ihre Sichtweisen zu berücksichtigen. Eine kürzlich durchgeführte Umfrage mit dem Titel „ Tausende KI-Autoren zur Zukunft der KI “ ist der umfangreichste Versuch, die Meinungen solcher Spezialisten zum Potenzial der KI zu eruieren. Für die Studie, die von Katja Grace und ihrem Team bei AI Impacts in Zusammenarbeit mit Forschern der Universität Bonn und der Universität Oxford durchgeführt wurde, wurden 2.778 Forscher befragt und nach ihren Vorhersagen zum Fortschritt der KI und ihren gesellschaftlichen Auswirkungen gefragt. Alle befragten Forscher hatten zuvor von Experten begutachtete Artikel in hochrangigen KI-Foren verfasst.

Wichtige Erkenntnisse aus der Studie zur Zukunft der KI

Kurz gesagt: Die Umfrage unterstreicht die enorme Komplexität und Breite der Erwartungen und Sorgen der KI-Forscher hinsichtlich der Zukunft der Technologie … und ihrer gesellschaftlichen Auswirkungen.

• Experten gehen davon aus, dass KI bereits im Jahr 2028 bedeutende Meilensteine ​​erreichen wird: „ etwa die Programmierung einer kompletten Website zur Zahlungsabwicklung von Grund auf oder das Schreiben neuer Songs, die von den echten Songs von Hitkünstlern wie Taylor Swift nicht zu unterscheiden sind .“

  
  

• Eine deutliche Mehrheit der Teilnehmer glaubt zudem, dass die besten KI-Systeme in den nächsten zwei Jahrzehnten wahrscheinlich sehr bemerkenswerte Fähigkeiten entwickeln werden. Dazu gehört, „ unerwartete Wege zu finden, um Ziele zu erreichen “ (82,3 %), „ zu den meisten Themen wie ein menschlicher Experte zu sprechen“ (81,4 %) und sich häufig „ auf eine Weise zu verhalten, die Menschen überrascht “ (69,1 %).

  
  

• Darüber hinaus wird allgemein davon ausgegangen, dass die Wahrscheinlichkeit, dass KI bis 2047 den Menschen in allen Aufgaben „ übertrifft “, bei 50 % liegt. Diese Prognose ist damit im Vergleich zu den ein Jahr zuvor gemachten Vorhersagen 13 Jahre weiter fortgeschritten .

  
  

• Die Wahrscheinlichkeit, dass alle menschlichen Berufe „ vollständig automatisierbar “ sein werden, wird nunmehr auf 10 % bis 2037 und 50 % bis 2116 geschätzt (im Vergleich zu 2164 in der Umfrage von 2022 ).

  
  

• Die Umfrage zeigt Skepsis hinsichtlich der Interpretierbarkeit von KI-Entscheidungen. Nur 20 % der Befragten halten es für wahrscheinlich, dass Benutzer bis 2028 in der Lage sein werden, „ die wahren Gründe für die Entscheidungen von KI-Systemen zu verstehen “. KI ist (bekanntermaßen) eine Blackbox , und diese Sorge spiegelt reale, anhaltende Herausforderungen in Bezug auf die KI-Transparenz wider. Dies ist insbesondere bei kritischen Anwendungen (Finanzen, Gesundheitswesen usw.) relevant, bei denen das Verständnis der KI-Entscheidungsfindung für Vertrauen und Verantwortlichkeit von entscheidender Bedeutung ist.

  
  

• Die Studie hebt auch „ erhebliche “ Sorgen hinsichtlich der möglichen negativen Auswirkungen von KI hervor. Die Verbreitung falscher Informationen, die Manipulation der öffentlichen Meinung und der autoritäre Einsatz von KI geben wenig überraschend Anlass zu großer Sorge. Forderungen nach proaktiven Maßnahmen zur Eindämmung dieser Gefahren sind heute rar gesät, und das ist ein Problem .

  
  

• Zu den langfristigen Auswirkungen hochentwickelter maschineller Intelligenz gibt es unterschiedliche Meinungen. Ein beträchtlicher Teil der Befragten geht davon aus, dass sowohl extrem gute als auch extrem schlechte Folgen, darunter das Aussterben der Menschheit, mit einer Wahrscheinlichkeit ungleich Null zu rechnen sind. Wissenschaftler sagen so viel wie: „ Wir wissen verdammt noch mal nicht, was als Nächstes passieren wird .“ Aber … zwischen 38 % und 51 % der Befragten gaben an, dass es mindestens eine 10-prozentige Wahrscheinlichkeit gibt, dass hochentwickelte KI zu so schlimmen Folgen wie dem Aussterben der Menschheit führen könnte . Das scheint etwas zu sein, das wir im Auge behalten sollten.

  
  

• Schließlich herrscht Uneinigkeit darüber, ob schnellere oder langsamere Fortschritte bei der KI besser für die Zukunft der Menschheit wären. Eine Mehrheit der Befragten plädiert jedoch dafür, der KI-Sicherheitsforschung mehr Priorität einzuräumen als bisher. Dies spiegelt einen wachsenden Konsens darüber wider, wie wichtig es ist, die existenziellen Risiken der KI anzugehen und ihre sichere Entwicklung und Bereitstellung zu gewährleisten.

Was machen wir mit diesen Informationen?

Der Weg nach vorn ist ziemlich klar: Regierungen auf der ganzen Welt müssen die Mittel für die KI-Sicherheitsforschung erhöhen und robuste Mechanismen entwickeln, um sicherzustellen, dass KI-Systeme mit den gegenwärtigen und zukünftigen menschlichen Werten und Interessen in Einklang stehen.

Die britische Regierung hat kürzlich Fördermittel in Höhe von über 50 Millionen Pfund für eine Reihe von Projekten im Bereich künstliche Intelligenz angekündigt , darunter 30 Millionen Pfund für die Schaffung eines neuen, verantwortungsvollen KI-Ökosystems. Ziel ist es, Tools und Programme zu entwickeln, die einen verantwortungsvollen und vertrauenswürdigen Einsatz von KI-Funktionen gewährleisten.

Unterdessen kündigte die Biden-Harris-Regierung Anfang 2024 die Gründung des US AI Safety Institute Consortium (AISIC) an, das über 200 KI-Akteure vereint, darunter Branchenführer, Wissenschaftler und die Zivilgesellschaft. Dieses Konsortium zielt darauf ab, die Entwicklung und den Einsatz sicherer und vertrauenswürdiger KI zu unterstützen, indem es Richtlinien für Red Teaming, Fähigkeitsbewertungen, Risikomanagement und andere wichtige Sicherheitsmaßnahmen entwickelt.

Dies ist ein Anfang, allerdings handelt es sich dabei nur um einen allzu nationalen.

Regierungen können heute nicht nur auf ihren eigenen Hinterhof schauen. Wir müssen auch INTERNATIONALE Regelungen umsetzen, um die ethische Entwicklung und den Einsatz von KI-Technologien zu lenken und Transparenz und Rechenschaftspflicht sicherzustellen. Dazu gehört die Förderung interdisziplinärer und INTERNATIONALER Zusammenarbeit zwischen KI-Forschern, Ethikern und politischen Entscheidungsträgern. Ich werde mich in der Welt sicherer fühlen, wenn ich sehe, dass Folgendes eingeführt wird, um bestehende Menschenrechtsrahmen zu stärken und zu verbessern:

• Globale KI-Sicherheitsrahmen
• Internationale KI-Sicherheitsgipfel
• Globale Forschungsfonds für KI-Ethik und -Sicherheit.

Zu früh, um Schlussfolgerungen zu ziehen

Es ist vielleicht noch zu früh, dem Untergangsglauben zu verfallen. Die Umfrage liefert zwar wertvolle Erkenntnisse, weist aber Einschränkungen auf, darunter mögliche Verzerrungen durch Selbstselektion der Teilnehmer und die ( offensichtliche! ) Herausforderung, technologische Fortschritte genau vorherzusagen. Weitere Forschung sollte darauf abzielen, die Vielfalt der Perspektiven zu erweitern und die Auswirkungen der KI-Entwicklung in bestimmten Sektoren zu untersuchen.

Letzten Endes und unabhängig von der Genauigkeit der getroffenen Vorhersagen brauchen wir mehr als Worte. KI ist eine Quelle beispielloser Chancen, aber auch großer Herausforderungen. Durch einen offenen Dialog zwischen Forschern, politischen Entscheidungsträgern und der Öffentlichkeit müssen wir Regeln schaffen, die uns vor den Gefahren der KI schützen und uns in Richtung einer besseren Zukunft für alle führen.

Die Welt ist sehr groß und wir sind sehr klein. Viel Glück da draußen.