Die Veröffentlichung einer brandneuen Reihe von Tools zur Online-Informationsbeschaffung und Aufgabenerledigung verspricht, die herkömmliche Suche zu revolutionieren und KI-Chatbots auf die nächste Stufe zu heben. Allerdings wirft sie wichtige Fragen hinsichtlich Zuverlässigkeit und Sicherheit auf.
OpenAI, die Macher des beliebten KI-gestützten Chatbots ChatGPT, haben Anfang des Monats mit der Einführung von ChatGPT Agent begonnen, und auch andere führende KI-Unternehmen bringen ähnliche Tools auf den Markt. Sie setzen darauf, dass Nutzer agentenbasierte KI annehmen werden – eine Technologie, die als virtueller persönlicher Assistent oder, wie sie heute genannt wird, als KI-Agent fungiert.
„Ein KI-Agent führt also weitgehend autonome Aktionen aus, die hauptsächlich auf dem von Ihnen vorgegebenen Ziel basieren“, sagte die kanadische Zukunftsforscherin Sinead Bovell in einem Interview mit CBC News.
„Man muss es nicht so informieren, wie es sollte, damit es dann selbstständig Informationen findet, einen Plan macht, einen Flug bucht und so weiter“, sagte Bovell, der Gründer des Technologie-Schulungsunternehmens WAYE, das Unternehmen bei der Entwicklung neuer Technologien berät.
Was sind KI-Broker?
ChatGPT Agent, das derzeit nur zahlenden Abonnenten zur Verfügung steht, vereint zwei von OpenAI entwickelte Tools: Deep Analysis, ein komplexes Suchwerkzeug, das bereits in ChatGPT zum Einsatz kommt, und Operator, das Online-Aufgaben für Benutzer durch Interaktion mit Websites erledigen soll.
Kunden treten über den bekannten ChatGPT-Chatbot mit dem Agenten in Kontakt, jedoch ChatGPT Agent Funktioniert auf Ihrem Bildschirm über Ihren persönlichen digitalen Browser und PC.
Das übergeordnete Ziel von agentenbasierter KI ist es, Online-Aufgaben auf eine natürlichere und effizientere Weise zu erledigen.
Anstatt beispielsweise stundenlang auf völlig unterschiedlichen Airline-Websites nach dem günstigsten Flug zu suchen, könnte die Nutzung eines KI-Agenten so sein, als würde man mit einem vertrauenswürdigen Verwaltungsassistenten interagieren, der die mühsame Suche für Sie übernimmt und Ihnen dann die besten Optionen präsentiert.
Der Goldrausch der agentenbasierten KI
Agentic AI hat in KI-Kreisen für viel Aufsehen gesorgt und wird von zahlreichen großen Unternehmen umworben.
„KI-Broker gelten als nächster Schritt in der Entwicklung hin zu einer KI-zentrierten Gesellschaft, dem KI-Zeitalter“, sagte Bovell. „In gewisser Weise sind sie also der Heilige Gral und der Ort, an dem der größte Wettbewerb stattfindet.“
Google hat beispielsweise seinen KI-Agenten Mission Mariner weiterentwickelt, den das Unternehmen Ende 2024 vorgestellt hat. Im Mai gab Google bekannt, dass dieser für diejenigen in den USA verfügbar sein wird, die für die höchste KI-Stufe bezahlt haben.
Sundar Pichai, CEO von Google und Alphabet, erwähnte im Mai bei einer Google-Keynote, dass das Unternehmen seitdem zahlreiche Fortschritte erzielt habe.
Kolumnisten von CBC RadioDie Art und Weise, wie wir unser Bargeld aufbewahren, transportieren und verwalten, verändert sich mit Agentic AI.
Die Finanzkolumnistin Rubina Ahmed-Haq erklärt, dass Agentic AI die nächste Generation künstlicher Intelligenz darstellt und möglicherweise mit minimalem menschlichen Eingriff funktionieren wird. Würden Sie einem KI-Agenten erlauben, Ihre Finanzen selbstständig zu verwalten?
„Erstens führen wir Multitasking ein, und es kann nun bis zu 10 Aufgaben gleichzeitig verwalten. Zweitens nutzt es eine Funktion namens „Lernen und Wiederholen“. Damit können Sie ihm einmalig einen Prozess zeigen, und es lernt daraus einen Plan für ähnliche Aufgaben in der Zukunft.“
Perplexity, ein Unternehmen für KI-basierte Suchmaschinen, hat Anfang Juli seinen agentenbasierten Browser Comet inklusive Comet Assistant auf den Markt gebracht. Comet ist für zahlende Abonnenten verfügbar. Auch andere, kleinere Unternehmen sind im Bereich der agentenbasierten Suchmaschinen tätig.
Das Zuverlässigkeitsproblem
Wie jeder bestätigen kann, der schon einmal KI-Chatbots genutzt hat, machen auch diese Programme Fehler. Was bedeutet das also für die Zuverlässigkeit von Tools, die Aufgaben in Ihrem Namen übernehmen sollen?
„Jedes Mal, wenn ein KI-Agent eine Aufgabe erledigt, wie zum Beispiel einen Flug bucht, ein Formular ausfüllt, eine Webseite erstellt oder eine E-Mail für Sie beantwortet, benötigt er ein ziemlich genaues Verständnis davon, was vor sich geht“, erklärte der Kognitionswissenschaftler, Autor und KI-Unternehmer Gary Marcus per E-Mail.
„Schon ein kleiner Fehler, wie die Buchung des falschen, nicht erstattungsfähigen Tickets, kann teuer werden“, sagte er.
„Tatsächlich sagen diese Programme Dinge, die sich irgendwie richtig anhören, weil sie modellieren, wie Menschen sprechen, aber die Wahrheit ist meistens falsch.“
Geländer
Bei der Einführung seines ChatGPT-Agenten wies OpenAI selbst auf das Problem von Fehlern hin, oder auf die Gefahr, dass der Agent in die Irre geführt werden könnte.
Bei der Präsentation am 17. Juli nannte der OpenAI-Forscher Casey Chu ein Beispiel für einen KI-Agenten, der auf eine bösartige Webseite stoßen könnte, die ihn zur Eingabe von Bankkarteninformationen auffordert.
„Ein kompetenter Mitarbeiter würde dies möglicherweise als gute Idee einstufen. Wir haben verschiedene Maßnahmen ergriffen, um dies zu verhindern. Unser Mitarbeiter ist darauf trainiert, verdächtige Anweisungen auf verdächtigen Webseiten zu ignorieren.“
Bei der Nutzung von KI-Brokern wünschen sich Kunden möglicherweise eine Kontrollfunktion, die es ihnen ermöglicht, einzugreifen, zu korrigieren und zu überprüfen, ob riskante Schritte unternommen wurden. Wir werden sehen, wie sich das in der Praxis auswirkt.
Der ChatGPT-Agent verfügt beispielsweise über einen Übernahmemodus, der es dem Nutzer ermöglicht, Bankkarteninformationen manuell einzugeben. Chu merkte außerdem an, dass der Agent „im letzten Schritt um eine Bestätigung bitten wird“.
Dennoch bestehen bei einigen erhebliche Sicherheitsbedenken. Im März wies Meredith Whittaker, Präsidentin der datenschutzorientierten Messaging-App Sign, die Zuhörer der Technologiekonferenz SXSW darauf hin, dass die Nutzung von agentenbasierter KI „eine große Herausforderung in Bezug auf Sicherheit und Datenschutz“ darstelle.
Damit ein KI-Agent als persönlicher Assistent wirklich hilfreich sein kann, muss er Zugriff auf Dinge wie Ihren Kalender, Ihre Kontakte und Ihre E-Mails haben.
Eine Gruppe von Schülern einer Highschool in Calgary bietet kostenlose Kurse zu künstlicher Intelligenz für jüngere Schüler an. Die Kurse richten sich an Kinder der 7. bis 10. Klasse, finden in der Bibliothek der University of Calgary statt und zielen darauf ab, den Schülern den verantwortungsvollen Umgang mit KI-Tools wie ChatGPT zu vermitteln.
Der beste Tipp beim Googeln?
Google steht im Wettstreit um die Vorherrschaft der KI vor großen Herausforderungen, da das Unternehmen seit Langem den Online-Informationszugang dominiert. Künstliche Intelligenz scheint im Zentrum seiner Strategie zu stehen, um der Konkurrenz weiterhin einen Schritt voraus zu sein.
Google hat mit der Einführung des KI-Modus begonnen, der zusätzliche KI-gestützte Funktionen bietet, mit denen Nutzer beispielsweise längere und komplexere Suchanfragen stellen können. Der KI-Agent Mission Mariner soll zukünftig in den KI-Modus integriert werden.
Während Google sich damit einen Namen gemacht hat, menschlichen Nutzern schnell und einfach Informationen zugänglich zu machen, verändert sich die Art und Weise, wie wir Informationen erhalten.
Bovell sagt, dass die heutigen Webbrowser nicht für das Zeitalter der KI ausgelegt sind.
„Sie sind für menschliche Website-Besucher konzipiert. Für menschliche Betrachter, für Menschen, die bestimmte Internetseiten besuchen“, sagte sie.
„Wir haben den Anfang vom Ende erreicht, wo die Menschen die ersten Kunden des Internets sind.“
Neue Analyse von Die Pew-Analyse Dies lässt vermuten, dass die Nutzung von Googles KI-Übersichten die Anzahl der tatsächlichen Website-Besucher bereits reduziert hat. Nutzer, die keine KI-Übersicht sahen, klickten fast doppelt so häufig auf Webseiten-Links wie Nutzer, die eine solche Übersicht sahen.
Dies hat massive Auswirkungen für alle Content-Ersteller, die auf Besucher von Suchmaschinen wie Google angewiesen sind, um Aufmerksamkeit für ihre Online-Anzeigen zu generieren.
Aktuell sind die KI-Programme von OpenAI, Google und Perplexity alle kostenpflichtig. Es bleibt daher weiterhin offen, ob diese Tools jemals kostenlos und allgemein verfügbar sein werden oder ob sie sich durchsetzen werden.
In naher Zukunft müssen die Kunden den Nutzen der Optionen mit dem Überwachungsaufwand und den Gebühren in Einklang bringen.
Letztendlich sind die Prinzipien, die eine Zukunft bestimmen, in der KI-Broker in unserem Namen handeln, jedoch noch immer nicht ausgearbeitet – etwas, das Menschen wie Bovell Sorgen bereitet.
„Ich bin vielleicht etwas fassungslos, dass wir einige der Sicherheitslücken, die Datenschutzlücken und die Probleme mit Fehlern und KI-Programmen, die immer noch Dinge erfinden, noch nicht gelöst haben, aber wir machen trotzdem mit KI-Vermittlern mit voller Geschwindigkeit weiter.“
Bleiben Sie mit NextBusiness 24 immer auf dem Laufenden. Entdecken Sie weitere Geschichten, abonnieren Sie unseren Newsletter und werden Sie Teil unserer wachsenden Community unter nextbusiness24.com
