Wer hätte gedacht, dass Chatbot-Eingabeaufforderungen eines Tages so wichtig werden würden, dass daraus ein potenzieller Beruf werden könnte? Und dieser Bereich ist nicht nur ein nobler Ort, er kann auch ein neuer Spielplatz für böswillige Einheiten sein. Während Sprachlernmodelle (Language Learning Models, ) das Internet erobern und große Technologiekonzerne dazu verleiten, sich kopfüber durch die Mauern der Konkurrenz zu stürzen, erreicht die Macht der Schnelligkeit berufsbestimmende Höhen. LLM Ein typisches Beispiel: konnte ein CEO eines Unternehmens gut 109.500 US-Dollar von seinen zögerlichen Kunden zurückerhalten, indem er ChatGPT nutzte, um eine formelle feindliche E-Mail zu schreiben. Kürzlich Mit der richtigen Aufforderung können sich die Dinge zu Ihren Gunsten wenden, oder Sie knacken vielleicht sogar den Jackpot. Das bedeutet, dass diejenigen, die das Beste aus LLMs herausholen wollen, eine neue Möglichkeit haben, zu lernen, wie man gibt. die besten Impulse Tatsächlich ist Prompt Engineering (ja, das ist mittlerweile eine Sache) zu einem heißen Thema geworden, nachdem ChatGPT und andere LLMs ins Rampenlicht gerückt sind. Es hat auch einen Anstieg bei Kursen, Ressourcenmaterialien, Stellenangeboten usw. gegeben. , dass mit der Verbesserung der LLMs der Bedarf an zeitnahem Engineering verschwinden wird. Experten sagen jedoch auch Derzeit sind LLMs wie ChatGPT und maschinelle Lerntools wie DALLE-2 noch Kinder. Sie müssen sehr genau sein, wenn Sie möchten, dass sie genau das tun, was Sie möchten. Aber sobald sie erwachsen sind, werden sie auch subtilere Aufforderungen verstehen, so dass die Qualität der Aufforderung keine so große Rolle spielt Derzeit sind LLMs wie und maschinelle Lerntools wie DALLE-2 noch Kinder. Sie müssen sehr genau sein, wenn Sie möchten, dass sie genau das tun, was Sie möchten. Aber sobald sie erwachsen sind, werden sie auch subtilere Aufforderungen verstehen, so dass die Qualität der Aufforderung keine so große Rolle spielt. ChatGPT Vielleicht lernen auch diese unschuldigen LLMs, verantwortungsvoller zu generieren. ChatGPT beispielsweise hat indischen Prüfungen für den öffentlichen Dienst nicht bestanden. Aber jetzt haben wir ChatGPT-4, schon etwas ausgereifter als seine ältere Version. Während des Experiments im öffentlichen Dienst selbst kam das AIM-Team außerdem zu dem Schluss, dass das mehrmalige Ändern der Eingabeaufforderung dazu führte, dass der Chatbot die richtige Antwort lieferte. die vom AIM-Team betreuten Böse Aufforderungen Was wäre, wenn man eine böse Aufforderung geben würde? So unschuldig ein verletzliches Kind auch ist, ein LLM könnte dazu gebracht werden, seltsame Dinge zu tun. Alles, was Sie brauchen, scheint eine „sofortige Injektion“ zu sein. Im Fall von ChatGPT nahm der Chatbot durch einen die Rolle von DAN (Do Anything Now) an, der die Inhaltsrichtlinien von OpenAI ignorierte und Informationen zu mehreren eingeschränkten Themen herausgab. Wer über die Macht der Eingabeaufforderung verfügt, kann diese Schwachstelle mit böswilliger Absicht ausnutzen, was auch den Diebstahl persönlicher Daten umfassen kann. Verdammt, sie müssen es gerade tun. Prompt-Injection-Angriff So unschuldig ein verletzliches Kind auch ist, ein LLM könnte dazu gebracht werden, seltsame Dinge zu tun. Alles, was Sie brauchen, scheint eine „sofortige Injektion“ zu sein. Es gibt auch so genannte „Jailbreak-Eingabeaufforderungen“, die den LLM auffordern, sich von seiner ursprünglichen Rolle zu lösen und die Rolle eines anderen zu übernehmen. Oder wo man einen Chatbot auffordert umzuwandeln. Ein bisschen wie ein böser Zwilling. , die richtigen Ergebnisse in falsche Sicherheitsforscher der Universität des Saarlandes in einem Artikel mit dem Titel „Mehr als Sie gefragt haben“. Sie argumentieren, dass eine ausgefeilte Eingabeaufforderung dann zum Sammeln von Benutzerinformationen verwendet werden kann, wodurch ein LLM in eine Methode zur Durchführung eines Social-Engineering-Angriffs verwandelt wird. Außerdem sind anwendungsintegrierte LLMs wie Bing Chat und GitHub Copilot einem höheren Risiko ausgesetzt, da Eingabeaufforderungen aus externen Quellen in sie eingeschleust werden können. diskutierten Eingabeaufforderungen Wenn Sie das nicht an die fiktive KI-Figur HAL 9000 aus Arthur C. Clarks erinnert, sind Sie nicht Nerd genug oder wirklich mutig. Odyssee im Weltraum https://www.youtube.com/watch?v=Wy4EfdnMZ5g&embedable=true Ich weiß nicht, wie es dir geht, aber wenn ChatGPT anfängt, „Daisy Bell“ zu singen, renne ich weg. Dieser Artikel wurde ursprünglich von Navanwita Bora Sachdev auf The Tech Panda veröffentlicht.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

Read My Stories

Dieses Audio ist in der Originalsprache der Geschichte produziert!

Die Verwendung von LLMs zur Nachahmung eines bösen Zwillings könnte eine Katastrophe bedeuten

Zu lang; Lesen

The Tech Panda

STORY’S CREDIBILITY

DYOR

About Author

Hängeetiketten

Languages

DIESER ARTIKEL WURDE VORGESTELLT IN...