#73 Mein Freund, die KI! Darf sie eigentlich mithören?

00:00:03: Datenschutz im Ohr.

00:00:04: Dein Podcast vom DSGVO Erste-Hilfekoffer für Soloselbstständige, Freiberufler und kleine Unternehmen bis zu neunzehn Mitarbeiter in Büro!

00:00:13: Wir sprechen über die verschiedensten Herausforderungen, wie der Datenschuss für dein Unternehmen mit sich bringt.

00:00:19: Du bekommst wichtige Infos was es

00:00:21: zu beachten gibt

00:00:22: und wertvolle Tipps zur Umsetzung der einzelnen Schritte.

00:00:26: So geht DSGVO einfach und leicht Und das lieben wir.

00:00:31: Bist du bereit, in die Welt der DSGVO einzutauchen?

00:00:34: Los geht's!

00:00:36: Ein fröhliches Hallo heute zu einer neuen Podcast-Folge und die kommt tatsächlich direkt aus einer Kundenanfrage heraus.

00:00:44: Die da heißt mein Freund DKI darf sie eigentlich mithören?

00:00:50: Ja also ich muss sagen Ich mag DKI ja auch Erleichtert mir vieles.

00:00:55: Sie schreibt Texte, sie fasst Sachen für mich zusammen.

00:00:58: Sie sortiert meine Gedanken.

00:01:00: Sie hilft mir also überall und inzwischen kommt sie ja sogar mit ins Meeting oder aber auch mit in meine Telefonanrufe ist schon praktisch.

00:01:10: keiner muss mehr Protokoll führen.

00:01:12: Keiner sitzt mehr da und tipptaktisch irgendetwas mit.

00:01:16: die KI hört einfach zu schreibt alles auf und sagt uns hinterher Ja, das haben wir besprochen.

00:01:21: Das haben wir entschieden!

00:01:23: Das müssen wir noch erledigen und das ist die Zusammenfassung.

00:01:26: Herrlich wie einfach kann das Leben doch sein?

00:01:29: Nur darf sie das eigentlich?

00:01:33: Darf eine KI bei einem Gespräch einfach so mithören oder muss man vorher jeden fragen?

00:01:39: Und noch viel interessanter hört die KI überhaupt mit oder transpräsiert Sie nur?

00:01:46: also schreibt sie nur mit macht ein Skript raus Oder ist das vielleicht sogar einen Unterschied?

00:01:52: Muss ich da unterscheiden, ist das eine schlimmer wie das andere.

00:01:56: Wie sieht es denn eigentlich aus?

00:01:58: Stellt euch mal ein ganz normales Online-Meeting vor!

00:02:01: Viele Leute sind eingeladen, sagen wir mal vier, fünf und plötzlich ist einer mehr drin.

00:02:07: Da taucht irgendein Bot auf... Ein Fireflys, ein Meetingassistent oder irgendetwas, wie auch immer unser neuer Freund, unser neurer Kollege heißt.

00:02:18: Und jemand sagt, oh keine Sorge der schreibt nur mit.

00:02:23: Der schreibt noch mit.

00:02:25: ich finde dieses nur ziemlich spannend denn in diesem Meeting reden wir vielleicht über Kunden über Preise über Umsätze über ein Projekt das heißt vielleicht auch über Namen.

00:02:39: und ja irgendeiner sagt dann aber dass muss unter uns bleiben.

00:02:44: klar das bleibt unter uns.

00:02:47: und wie ist das eigentlich mit unserem digitalen Freund?

00:02:50: gehört der zu uns dazu?

00:02:53: Der sitzt doch auch noch da und der vergisst vielleicht wesentlich weniger als wir.

00:03:00: Die Frage ist, wo tauchen dann die Sachen zum Beispiel auf?

00:03:04: Ja hört die KI nur zu oder transpribiert sie schon?

00:03:08: aber jetzt wird es dann auch interessant denn vielleicht tue ich ja mit der KI sogar unrecht.

00:03:13: Ich sage die ganze Zeit die hört mit.

00:03:16: Aber stimmt das überhaupt?

00:03:17: was bedeutet den mithören bei einer KI.

00:03:22: Wenn neben mir ein Mensch sitzt und dem Gespräch zuhört, okay, der hört mich!

00:03:27: Aber bei einerKI passiert eigentlich noch wesentlich technisch mehr.

00:03:32: Ich sage zum Beispiel wir verschieben das Projekt auf Oktober Meine Stimme wird erfasst Irgendwo passiert ziemlich viel Technik Und ein paar Sekunden später steht auf dem Bildschirm Wir verschieben Das Projekt auf oktober.

00:03:46: Was ist da aber passiert?

00:03:48: Hat die KI mich gehört?

00:03:49: Hat sie mich aufgezeichnet oder hat sie nur meine Stimme verarbeitet, damit daraus Texte werden können?

00:03:55: und macht das einen Unterschied.

00:03:58: Das ist ein spannendes Thema!

00:04:00: Fast zwei gleiche Situationen.

00:04:02: machen wir ein kleines Gedankenexperiment.

00:04:04: Situation eins – Wir sprechen miteinander.

00:04:06: Eine KI verarbeitete das Gesagte direkt und macht daraus ein Text.

00:04:10: Die Audiodateien werden nehmen wir das einfach mal so an nicht dauerhaft gespeichert.

00:04:14: An Ende bleibt nur das Transkript.

00:04:18: Situation zwei, unser komplettes Gespräch wird aufgenommen.

00:04:22: Eine Audiodatei erstellt vielleicht auch noch eine Videodatei.

00:04:26: die wird gespeichert vielleicht irgendwo hin übertragend und anschließend von einer KI transkriptiert.

00:04:32: am Ende haben wir wieder denselben Text.

00:04:35: das Ergebnis kann also praktisch identisch sein aber der Weg dahin ist ein völlig anderer.

00:04:42: Und jetzt würde mich interessieren macht dass für euch einen Unterschied?

00:04:46: Wie seht ihr denn das?

00:04:48: Wenn ich sage, ich nehme nur unser Gespräch auf.

00:04:51: Keine Sorge!

00:04:51: Ich nehme nix auf, nur die KI schreibt nur mit.

00:04:54: Fühlt sich das anders an?

00:04:56: Also für mich schon... Aber warum

00:04:58: eigentlich?!

00:04:59: Denn das was ich gesagt habe existiert hinterher trotzdem.

00:05:04: Die Stimme ist weg aber der Satz bleibt.

00:05:06: Nehmen wir an, ich sage im Meeting unsere Kunde Müller hat seine Rechnung noch nicht bezahlt.

00:05:11: Die KI verarbeitet diesen Satz.

00:05:13: Danach wird eine Audio-Datei gelöscht.

00:05:15: wunderbar meine Stimme es weg Der Satz aber nicht.

00:05:18: Denn im Transkript steht immer noch, unser Kunde Müller hat seine Rechnung noch nicht bezahlt und jetzt haben wir vielleicht gar keine Sprachaufnahme mehr denn wir haben hier einen Namen eine Information ein Kontext Vielleicht sogar noch vertrauliche Informationen vielleicht noch weiteres.

00:05:34: Aber was ist eigentlich entscheidend dabei?

00:05:37: Dass meine Stimme gespeichert wurde oder dass meine Worte gespeicher worden Oder beides?

00:05:44: Und plötzlich ist die Frage Darf die KI mithören?

00:05:48: Eigentlich gar nicht mehr so einfach.

00:05:51: Jetzt könnte man natürlich sagen, gut sie wurden informiert!

00:05:55: Dann informieren wir einfach alle.

00:05:56: Beim Start des Meetings erscheint die Transkription wurde gestartet.

00:06:00: Perfekt, Probleme erledigt.

00:06:03: oder was bedeutet diese Meldung eigentlich?

00:06:07: ich weiß jetzt das transpribiert wird aber Ich weiß auch Was genau passiert.

00:06:13: Weiß ich ob meine Stimme gespeichert wird?

00:06:15: weiss ich Ob das transcript Wo das landet, wer darauf Zugriff hat?

00:06:20: Weiß ich welche Anbieter dahinter stehen.

00:06:22: Wie lange das Ganze gespeichert wird.

00:06:24: Ob es in der Cloud ist, wer später darauf zugreifen kann und was vielleicht anschließend damit gemacht wird.

00:06:31: Denn vielleicht wird das Gespräch ja nicht nur transkribiert.

00:06:34: Vielleicht kommt dann nach dem nächsten Klick KI fasse das Meeting zusammen Und der nächste Welche Probleme wurden angesprochen und vielleicht irgendwann Wer im Meeting war denn gegen den Vorschlag?

00:06:47: Spätestens da sind wir ein ganzes Stück weiter als bei, die KI schreibt nur mit.

00:06:54: Nehmen wir mal meinen eigenen Podcast und jetzt kann ich das Ganze direkt auf mich selbst beziehen.

00:06:59: Stellt euch vor, ich lade einen Gast in mein Podcast ein!

00:07:02: Natürlich sage ich, wir nehmen das Gespräch auf.

00:07:04: logisch ist ja ein Podcast.

00:07:06: Mein Gast stimmt zu Wir reden eine Stunde lang Und anschließend nehme ich die Aufnahme und gebe sie in KI.

00:07:12: Ich sage mach mir bitte einen Transkript Okay Dann fass mir die wichtigsten Aussagen meines Gastes zusammen.

00:07:18: Auch noch okay?

00:07:19: Und dann vielleicht, welche Aussagen waren kontrovers?

00:07:23: oder analysiere mir die Argumentation meines Gesprächspartners.

00:07:28: Moment!

00:07:29: Wozu hat mein Gast eigentlich zugestimmt?

00:07:32: zur Aufnahme, zur Veröffentlichung auch zur Transkription und zur Verarbeitung durch einen KI-Anbieter auch zur Analyse.

00:07:42: ist das alles automatisch dasselbe?

00:07:46: Ich weiß es nicht, aber genau deshalb finde ich die Frage sehr interessant.

00:07:51: Jetzt wechseln wir mal den Raum.

00:07:53: stellt euch dieselbe Technik mal woanders vor Bewerbungsgespräch.

00:07:57: ihr sitzt da gegenüber der mögliche zukünftige Arbeitgeber und er sagt nur zur Info Die KI schreibt das Gespräch mit.

00:08:04: wie fühlt sich das an?

00:08:06: Vielleicht sagt ja kein Problem weil ihr wollt ja den Job.

00:08:10: vielleicht denkt ihr aber auch Moment Mal Schreibt sie wirklich nur mit oder werden meine Antworten später ausgewertet?

00:08:17: Wer wertet die denn aus, wer hat denn da überhaupt Zugriff drauf?

00:08:21: und ja was ist wenn ich auf bestimmte Fragen bestimmt reagiere?

00:08:27: kann ich dann da überhaupt noch entspannt mit drinsitzen.

00:08:30: Oder ist das Ganze irgendwie unentspannend für mich und ich denke dann sofort super jetzt kann nicht wahrscheinlich den Job vergessen.

00:08:39: oder wir nehmen mal die Arztpraxis.

00:08:41: man sitzt beim Arzt Auf dem Bildschirm und Tipp das kennt man ja.

00:08:47: Er hört zu, wenn er es einen anschaut Aber weil eine KI im Hintergrund die Dokumentation übernimmt kann er mir vielleicht viel genauer zuhören.

00:08:58: Ich finde das vielleicht toll dass er mir jetzt so viel Aufmerksamkeit schenkt.

00:09:01: aber ja die KI im hintergrund schreibt einfach mit.

00:09:06: Vielleicht wäre das tatsächlich ne Idee wo die KI sogar sinnvoll ist.

00:09:10: Aber jetzt sprechen wir vielleicht über Krankheiten, über Medikamente, über psychische Probleme.

00:09:15: Über sehr persönliche Dinge.

00:09:17: Technisch passiert vielleicht etwas Hahnloses in dem Meeting aber fühlt sich das gleich an?

00:09:24: und die Frage ist ja dann wenn ich über so eine Dinge spreche weiß ich denn wo er die lagert?

00:09:31: Vielleicht bei einem amerikanischen Unternehmen irgendwo?

00:09:34: was ist wenn die mal ein Hackingangriff haben?

00:09:36: weiss ich ob es da verschlüsselt ist?

00:09:38: Wie wird damit mein Daten umgegangen?

00:09:40: Was passiert, wenn meine Texte, meine Aussagen, meine Transkriptions tatsächlich in falscher Hände gerät.

00:09:47: Was ist dann?

00:09:49: vielleicht verändert die KI tatsächlich auf Dauer auch unsere Gespräche unser Reden.

00:09:54: Vielleicht gibt es das was dann ja noch etwas dass gar nicht mit unseren Gesetzen zu tun hat sondern mit uns reden wir eigentlich anders Wenn wir wissen Dass eine KI mithört und alles mitgeschrieben wird vielleicht schon.

00:10:10: Stellt euch vor, jemand sitzt in der Ecke und lauscht immer.

00:10:14: Ihr seid in einem Meeting, im Arztgespräch und in der ecke sitzt jemand einfach dabei.

00:10:20: den kennt ihr nicht mit dem Blog und schreibt alles mit.

00:10:24: Jeden Satz!

00:10:26: Wie fühlt sich das an?

00:10:28: Ist das mit unserer KI eigentlich das gleiche?

00:10:32: Weil natürlich steht dann alles im Protokoll.

00:10:35: würden wir genauso offen miteinander reden wenn da einer in der ecke sitzt oder würden wir anfangen so zu reden, wie das fürs Transkript eigentlich gut ist?

00:10:47: Das finde ich noch spannender.

00:10:50: Ich sage etwas du hörst es und irgendwann ist dieser Moment vorbei.

00:10:54: aber wenn die KI daraus etwas Dauerhaftes macht durchsuchbar kopierbar zusammenfassbar analysierbar Wie ist das?

00:11:05: also darf die KI jetzt einfach so transkribieren und mitschreiben oder nicht?

00:11:10: Das ist meine ursprüngliche Frage mein Freund die KI.

00:11:13: Darf sie das?

00:11:14: Oder darf sie automatisch transkribieren.

00:11:18: Ich werde und kann darauf heute ganz bewusst kein Ja oder Nein geben, denn eigentlich ist die Frage selbst schon viel zu einfach.

00:11:25: Vielleicht müssen wir zuerst fragen was genau passiert technisch wird aufgenommen, wird nur transkibiert?

00:11:32: Was wird gespeichert?

00:11:33: Wo wird es gespeicher?

00:11:35: Wer bekommt Zugriff da drauf?

00:11:37: Was passiert anschließend mit dem Skript?

00:11:40: Und wissen wirklich alle im Raum ganz genau Was mit Ihren Worten passiert?

00:11:47: Vielleicht ist nämlich nicht die entscheidende Frage, darf eine KI zuhören.

00:11:52: Sondern vielleicht ist die entscheidamente Frage was darf aus meinen Worten werden wenn ich sie ausgesprochen habe.

00:12:01: Mein Freund die KI – Ich mag Sie!

00:12:05: Sie ist schnell, praktisch, schreibt mit und hilft mir.

00:12:10: Und sie hat eine Eigenschaft die gleichzeitig genial und ein kleines bisschen unheimlich ist Sie vergisst verdammt wenig.

00:12:18: Vielleicht sollten wir deshalb bei unserem nächsten Meeting nicht nur fragen, kann die KI das für uns transkribieren?

00:12:24: Sondern auch was passiert eigentlich danach?

00:12:28: und wenn beim nächsten Videocall plötzlich wieder dieser kleine KI Assistent als zusätzlicher Teilnehmer auftaucht?

00:12:35: schaut ihn euch ruhig mal an und fragt euch mein Freund wer hat dich denn eigentlich eingeladen?

00:12:44: ich finde dass ist ein ganz spannendes Thema über das man mal länger als nur eine Minute und ein Klick weit nachdenken solltest.

00:12:53: Und wenn ihr überlegt, bei euch im Unternehmen KI einzusetzen zum Mithören, zum Transkribieren dann hat euch das vielleicht ein bisschen zum Nachdenken angeregt dass ihr mal überlegt wie mache ich es denn?

00:13:06: Wer hat Zugriff?

00:13:07: Wie kann nicht das ganze absichern?

00:13:10: Dann sind wir schon eine ganze Ecke weiter.

00:13:14: Ja, wenn ihr selber sagt ich möchte da noch Unterstützung haben von jemanden der sich im Datenschutz wirklich auskennt.

00:13:20: Dann geht auf unsere Seite www.dsgvo-erste-hilfe.de und bucht euch bei einem unserer Berater einen Termin und wir helfen euch weiter!

00:13:30: Und ansonsten folgt uns auch gerne auf den Social Media Kanälen.

00:13:34: Da haben wir immer wieder Themen die wir angreifen.

00:13:37: und ja grüßt mir euren KI Freund bis zum nächsten Mal.

00:13:44: Schön, dass du heute mit dabei warst.

00:13:46: Weitere Informationen zu unserem DSGVO Erste Hilfekoffer und Datenschutz findest du unter dsgvo-erste-hilfe.de.

00:13:56: Du kannst dir gerne auch einen kostenlosen Termin buchen – mit einem unserer Beraterinnen und Berater vom DSGVO Erste Hilfekofferteam.

00:14:05: Den Link dazu gibt's in den Shownotes.

00:14:08: Such dir aus, von dem du dich beraten lassen möchtest und lass uns darüber sprechen wie wir dir am besten weiterhelfen können.

00:14:14: Bis zur nächsten Folge – und denk immer daran!

00:14:17: Datenschutz muss nicht kompliziert sein.

00:14:20: Dir DSGVO-ST Hilfekoffer macht's leicht.