The risks of AI: "No one currently knows how to build an AI that only does what it is supposed to do"
Dass der KI-Bereich große Chancen bietet – sowohl die Technologie an sich als auch einige Unternehmen an der Börse – haben wir bereits besprochen. Doch, wer das Themenfeld ganzheitlich betrachten will, muss auch die Risiken von Künstlicher Intelligenz kennen. BIT Capital-Gründer Jan Beckers macht das seit Jahren und hat mit der Global Technology Risk Foundation eine gemeinnützige Organisation genau dafür gegründet. Ein Projekt, das die Organisation unterstützt, ist das „Zentrum für KI –Risiken & -Auswirkungen“ (KIRA). Dessen Gründer Daniel Privitera ist Gast in der Folge und diskutiert mit
Die Risiken von KI: „Niemand weiß aktuell, wie man eine KI baut, die nur das macht, was sie machen soll.“ Risiko-Hinweis: Die Inhalte dieses Podcasts dienen ausschließlich der allgemeinen Information und sind zum einen ohne Gewähr und zum anderen keine Empfehlung zum Kauf oder Verkauf bestimmter Finanzinstrumente. Es handelt sich hierbei nicht um Anlagevermittlung, Anlageberatung oder Ähnliches. Ihr entscheidet selbst, was ihr macht. Diese Transkription wurde mithilfe von Künstlicher Intelligenz erstellt und zur besseren Verständlichkeit redaktionell leicht angepasst. Inhaltliche Abweichungen zum Original-Podcast sind möglich. Für die Richtigkeit und Vollständigkeit der Angaben wird keine Haftung übernommen. 00:23 – Christoph DammBeckers Bets – der Investment-Podcast mit Jan Beckers.Hallo Jan. 00:28 – Jan BeckersHallo Christoph. 00:30 – Christoph DammHeute sprechen wir über ein Thema, das wir im Podcast zwar schon oft gestreift haben, aber heute erstmals ausführlich: die Risiken der Künstlichen Intelligenz.Wir sprechen viel über Chancen, über Investitionen, über Anwendungen – aber KI hat auch eine andere Seite.Du beschäftigst dich seit Jahren intensiv mit KI-Risiken. Deshalb hast du auch die Global Technology Risk Foundation gegründet.Vielleicht startest du einmal: Was genau ist das Ziel dieser Organisation? 01:04 – Jan BeckersDie Grundidee liegt sieben bis neun Jahre zurück: Wir entwickeln als Menschheit immer mächtigere Technologien – von der Atombombe bis hin zu Biotechnologie und natürlich KI.Damals schien es, als sei KI-Gefahr ein weit entferntes Thema. Das hat sich seit ChatGPT drastisch geändert.Ich wollte mich sozial dort engagieren, wo ich ohnehin viel Zeit verbringe: bei Technologie.Darum habe ich die Stiftung gegründet – um Forschung zu unterstützen und Teams zu fördern, die daran arbeiten, diese Risiken zu mitigieren. Heute fokussieren wir uns besonders auf KI-Risiken. Unter anderem unterstützen wir KIRA. Und deshalb ist heute Daniel bei uns – einer der
