#135 Vertrauenswürdige und ethische Künstliche Intelligenz
Subscribe to get the latest
on 2023-04-27 00:00:00 +0000
with Darren W Pulsipher, Gretchen Stewart,
In dieser Episode führt Darren ein Interview mit Gretchen Stewart, Chief Data Scientist des öffentlichen Sektors bei Intel, in dem sie die Vertrauenswürdigkeit und Ethik künstlicher Intelligenz diskutieren.
Keywords
#ai #digitalethics #trust #zerotrust #cybersecurity
In den späten 2010ern veröffentlichte Microsoft Tay als KI-Chatbot, der darauf ausgelegt war, aus seinen Unterhaltungen mit Nutzern auf Twitter zu lernen. Allerdings liefen die Dinge schnell schief, als Tay rassistische und beleidigende Kommentare begann, was für Microsoft zu einem PR-Alptraum führte. Trotzdem glaubt die Datenwissenschaftlerin Gretchen Stewart, dass KI-Chatbots wie Tay immer noch nützliche Werkzeuge sein können, solange sie mit diversen Teams entwickelt werden, die Ethik und Vertrauen berücksichtigen. Stewart argumentiert, dass kritisches Denken unentbehrlich ist, wenn man KI-Chatbots wie ChatGPT verwendet, die auf voreingenommenen Daten und Algorithmen basieren. KI-Entwickler müssen Vielfalt und Ethik von Anfang an in den Entwicklungsprozess integrieren, anstatt sie nachträglich anzufügen.
Vertrauenswürdigkeit
Künstliche Intelligenz (KI) verfügt über immense Fähigkeiten, doch es fehlen ihr immer noch die menschlichen Sinne und Erfahrungen, die sich auf Entscheidungsfindung auswirken können. Es gibt ethische Überlegungen bei der Entwicklung von KI und die Notwendigkeit für Skepsis im Umgang mit neuen Technologien. Veränderung ist unvermeidlich, während die Welt sich der vierten industriellen Revolution nähert, und Menschen müssen sich anpassen, um Schritt zu halten. Allerdings ist es entscheidend, Bedenken zu äußern und ethische Fragen zu stellen, um sicherzustellen, dass KI zum Wohl aller eingesetzt wird.
Es gibt potenzielle Gefahren, sich auf künstliche Intelligenz (KI) als Informationsquelle zu verlassen. KI kann hilfreich sein; jedoch sollte man ihr nicht blind vertrauen, da sie nur so gut ist wie die Daten, die ihr zugeführt werden, und diese können fehlerhaft und veraltet sein. Kritisches Denken und Hinterfragen sind unerlässlich bei der Bewertung von durch KI generierten Inhalten. Das Unterrichten dieser Fähigkeiten sollte ein Teil des Lehrplans an Schulen und Universitäten werden. Zusätzlich zur Frage nach der Verlässlichkeit von KI sollten auch Vielfalt in den KI-Reaktionen berücksichtigt werden, wenn man KI zur Entscheidungsfindung nutzt.
Ethik
Mit dem Fortschreiten der Technologie ergeben sich immer wieder neue ethische Bedenken. Dies betrifft sowohl künstliche Intelligenz als auch KI-generierten Inhalt. Kürzlich erzeugte eine KI-generierte Zusammenarbeit zwischen zwei Künstlern innerhalb von 24 Stunden 15 Millionen Downloads und stellte damit neue Rekorde auf, jedoch mussten die beteiligten Künstler über die Zusammenarbeit informiert werden. Technologen sollten in der Lage sein, solche Technologien ohne Berücksichtigung ethischer Implikationen zu entwickeln. Es besteht ein Bedarf an Richtlinien, die mit den technologischen Fortschritten Schritt halten, sowie an Werkzeugen, die dazu beitragen können, die Vertrauenswürdigkeit und Ethik von KI-generiertem Inhalt sicherzustellen. Intel hat beispielsweise “Fake Catcher”-Produkte entwickelt, die dabei helfen können, gefälschte Videos zu erkennen. Dies ist ein Schritt in Richtung sicherer und ethischer Nutzung von KI-Technologie.
Die Bekämpfung von gefälschten KI-generierten Inhalten hat sich zu einer eigenen Branche entwickelt und erfordert Transparenz in der KI-Entwicklung. Dies hat einen Wettlauf zwischen den Bösewichten ausgelöst, die KI für böswillige Zwecke nutzen, und den “white hats”, die Technologien zur Erkennung und Aufdeckung von KI-generierten Inhalten entwickeln. Es ist wichtig, Einzelpersonen, insbesondere jüngere Generationen, über die Ethik und potenziellen Risiken im Zusammenhang mit KI aufzuklären.