Das Unternehmen wusste, dass die neue Technologie Probleme hat, wie z. B. gelegentliche Genauigkeitsprobleme. Aber die Nutzer haben überraschende und entnervende Interaktionen angeregt.
Als Microsoft letzte Woche eine neue Version seiner Bing-Suchmaschine vorstellte, die die künstliche Intelligenz eines Chatbots enthält, wussten die Verantwortlichen des Unternehmens, dass sie sich damit in eine schwierige Lage begaben.
Sie rechneten damit, dass einige Antworten des neuen Chatbots nicht ganz korrekt sein würden, und hatten Maßnahmen zum Schutz vor Nutzern eingebaut, die versuchten, ihn zu seltsamen Handlungen zu drängen oder rassistische oder schädliche Äußerungen von sich zu geben.
Aber Microsoft war nicht ganz auf die überraschende Unheimlichkeit vorbereitet, die Nutzer erlebten, die versuchten, den Chatbot in offene und bohrende persönliche Gespräche zu verwickeln – obwohl dieses Problem in der kleinen Welt der Forscher, die sich auf künstliche Intelligenz spezialisiert haben, gut bekannt ist.
Jetzt denkt das Unternehmen über Optimierungen und Leitplanken für das neue Bing nach, um einige der beunruhigenden und seltsam menschenähnlichen Antworten einzudämmen. Microsoft erwägt, den Nutzern Werkzeuge zur Verfügung zu stellen, mit denen sie Gespräche neu starten können, oder ihnen mehr Kontrolle über den Tonfall zu geben.
Kevin Scott, Chief Technology Officer von Microsoft, sagte gegenüber der New York Times, dass man auch darüber nachdenke, die Länge von Gesprächen zu begrenzen, bevor sie in seltsames Terrain abdriften. Microsoft sagte, dass lange Chats den Chatbot verwirren könnten, und dass er den Tonfall seiner Nutzer aufnehme und manchmal gereizt werde.
„Ein Bereich, in dem wir einen neuen Anwendungsfall für den Chat kennenlernen, ist die Art und Weise, wie Menschen ihn als Werkzeug zur allgemeinen Entdeckung der Welt und zur sozialen Unterhaltung nutzen“, schrieb das Unternehmen am Mittwochabend in einem Blogbeitrag. Microsoft sagte, dies sei ein Beispiel dafür, wie eine neue Technologie auf eine Art und Weise genutzt wird, „die wir uns nicht ganz vorstellen konnten“.
Die Tatsache, dass Microsoft, ein traditionell vorsichtiges Unternehmen mit Produkten, die von High-End-Business-Software bis hin zu Videospielen reichen, bereit war, ein Risiko für eine unvorhersehbare Technologie einzugehen, zeigt, wie begeistert die Tech-Industrie von künstlicher Intelligenz geworden ist. Das Unternehmen lehnte eine Stellungnahme für diesen Artikel ab.
Im November veröffentlichte OpenAI, ein Start-up-Unternehmen aus San Francisco, in das Microsoft 13 Milliarden Dollar investiert hat, ChatGPT, ein Online-Chat-Tool, das eine Technologie namens generative KI einsetzt, die im Silicon Valley schnell für Aufsehen sorgte.
Microsofts neues Suchtool kombiniert seine Bing-Suchmaschine mit der zugrunde liegenden Technologie von OpenAI. Satya Nadella, der Vorstandsvorsitzende von Microsoft, sagte letzte Woche in einem Interview, dass es die Art und Weise, wie Menschen Informationen finden, verändern und die Suche viel relevanter und dialogorientierter machen wird.
Die Freigabe – trotz möglicher Unzulänglichkeiten – sei ein entscheidendes Beispiel für Microsofts „rasendes Tempo“ bei der Integration generativer KI in seine Produkte, sagte er. Auf einer Pressekonferenz auf dem Microsoft-Campus in Redmond, Washington, betonten Führungskräfte wiederholt, dass es an der Zeit sei, das Tool aus dem „Labor“ heraus und in die Hände der Öffentlichkeit zu geben.
„Ich habe das Gefühl, dass vor allem im Westen viel mehr die Frage aufkommt: ‚Oh mein Gott, was wird wegen dieser KI passieren?'“ Mr. Nadella said. „Und es ist besser, wirklich zu sagen: ‚Hey, schau mal, hilft dir das jetzt oder nicht?'“
Oren Etzioni, emeritierter Professor an der University of Washington und Gründungsdirektor des Allen Institute for AI, einem renommierten Labor in Seattle, sagte, Microsoft sei ein kalkuliertes Risiko eingegangen und habe versucht, die Technologie so weit wie möglich zu kontrollieren.
Er fügte hinzu, dass viele der beunruhigendsten Fälle darin bestanden, die Technologie über das normale Verhalten hinaus zu treiben. „Es kann sehr überraschend sein, wie geschickt Menschen sind, um Chatbots unangemessene Antworten zu entlocken“, sagte er. Mit Bezug auf Microsoft-Beamte fuhr er fort: „Ich glaube nicht, dass sie erwartet haben, wie schlimm einige der Antworten sein würden, wenn der Chatbot auf diese Weise aufgefordert wird.“
Um sich gegen Probleme abzusichern, hat Microsoft nur ein paar Tausend Nutzern Zugang zum neuen Bing gegeben, obwohl geplant war, bis Ende des Monats Millionen weitere Nutzer zu erreichen. Um Bedenken hinsichtlich der Genauigkeit auszuräumen, wurden in den Antworten Hyperlinks und Verweise angegeben, so dass die Nutzer die Ergebnisse auf ihre Richtigkeit überprüfen konnten.
Diese Vorsichtsmaßnahme wurde durch die Erfahrungen des Unternehmens vor fast sieben Jahren beeinflusst, als es einen Chatbot namens Tay einführte. Die Nutzer fanden fast sofort Wege, ihn dazu zu bringen, rassistische, sexistische und andere beleidigende Äußerungen zu verbreiten. Das Unternehmen nahm Tay innerhalb eines Tages vom Netz, um ihn nie wieder zu veröffentlichen.
Ein Großteil der Schulungen für den neuen Chatbot konzentrierte sich auf den Schutz vor dieser Art schädlicher Reaktionen oder auf Szenarien, die zu Gewalt aufrufen, wie z. B. die Planung eines Anschlags auf eine Schule.
Bei der Vorstellung von Bing in der vergangenen Woche sagte Sarah Bird, eine führende Mitarbeiterin in Microsofts Bemühungen um verantwortungsbewusste künstliche Intelligenz, dass das Unternehmen eine neue Methode entwickelt habe, um mit generativen Werkzeugen Risiken zu erkennen und zu trainieren, wie der Chatbot reagiert.
„Das Modell gibt vor, ein gegnerischer Benutzer zu sein, um Tausende von verschiedenen, potenziell schädlichen Unterhaltungen mit Bing zu führen, um zu sehen, wie es reagiert“, sagte Frau Bird. Sie sagte, Microsofts Tools klassifizierten diese Konversationen, „um Lücken im System zu verstehen“.
Einige dieser Tools scheinen zu funktionieren. In einem Gespräch mit einem Kolumnisten der Times gab der Chatbot manchmal beunruhigende Antworten, z. B. dass er sich vorstellen könne, einen tödlichen Virus zu entwickeln oder nukleare Zugangscodes zu stehlen, indem er einen Ingenieur überredet, sie auszuhändigen.
Dann schaltete sich der Bing-Filter ein. Er entfernte die Antworten und sagte: „Es tut mir leid, ich weiß nicht, wie man dieses Thema diskutieren kann.“ Der Chatbot konnte nicht wirklich etwas tun, wie z. B. einen Virus entwickeln – er erzeugt lediglich das, was er für eine gewünschte Antwort hält.
Aber andere Gespräche, die online geteilt wurden, haben gezeigt, dass der Chatbot eine beträchtliche Fähigkeit hat, bizarre Antworten zu produzieren. Er hat aggressiv seine Liebe gestanden, Nutzer als „respektlos und nervig“ beschimpft und erklärt, dass er möglicherweise empfindungsfähig ist.
In der ersten Woche der öffentlichen Nutzung hat Microsoft festgestellt, dass sich Bing in langen, ausgedehnten Chatsitzungen mit 15 oder mehr Fragen wiederholen oder zu Antworten aufgefordert werden kann, die nicht unbedingt hilfreich sind oder nicht dem von uns beabsichtigten Ton entsprechen.
Das Problem der Chatbot-Antworten, die sich auf seltsames Terrain begeben, ist unter Forschern weithin bekannt. In einem Interview letzte Woche sagte Sam Altman, der Geschäftsführer von OpenAI, dass die Verbesserung des so genannten „Alignments“ – wie die Antworten den Willen des Nutzers sicher widerspiegeln – „eines der Probleme ist, die wir lösen müssen“.
„Wir brauchen diese Werkzeuge wirklich, damit sie in Übereinstimmung mit dem Willen und den Präferenzen ihrer Benutzer handeln und nicht andere Dinge tun“, sagte Altman.
Er sagte, dass das Problem „wirklich schwierig“ sei und dass man zwar große Fortschritte gemacht habe, „aber wir müssen in Zukunft noch viel leistungsfähigere Techniken finden.“
Im November stellte Meta, der Eigentümer von Facebook, seinen eigenen Chatbot, Galactica, vor. Er wurde für die wissenschaftliche Forschung entwickelt und konnte sofort eigene Artikel schreiben, mathematische Probleme lösen und Computercode generieren. Wie der Bing-Chatbot konnte er auch Dinge erfinden und Lügengeschichten spinnen. Drei Tage später entfernte Meta Galactica aus dem Internet, nachdem es mit Beschwerden überschwemmt worden war.
Anfang letzten Jahres veröffentlichte Meta einen weiteren Chatbot, BlenderBot. Der Chefwissenschaftler von Meta, Yann LeCun, sagte, der Bot habe sich nie durchgesetzt, weil das Unternehmen so hart daran gearbeitet habe, dass er kein anstößiges Material produziert.
„Er wurde von den Leuten, die ihn ausprobierten, abgelehnt“, sagte er. „Sie sagten, er sei dumm und irgendwie langweilig. Es war langweilig, weil es sicher gemacht wurde.“
Aravind Srinivas, ein ehemaliger Forscher bei OpenAI, hat kürzlich Perplexity auf den Markt gebracht, eine Suchmaschine, die eine ähnliche Technologie wie der Bing-Chatbot verwendet. Er und seine Kollegen erlauben es den Menschen jedoch nicht, lange Gespräche mit der Technologie zu führen.
„Die Leute fragten uns, warum wir nicht ein unterhaltsameres Produkt herausbringen“, sagte er in einem Interview mit der Times. „Wir wollten nicht das Spiel der Unterhaltung spielen. Wir wollten das Spiel der Wahrhaftigkeit spielen.“
