WEBVTT

0
00:00:00.000 --> 00:00:09.220
 Guten Abend, herzlich willkommen im Depot, herzlich willkommen zur sechsten Ausgabe der Wiener KI-Gespräche.

1
00:00:09.460 --> 00:00:17.399
 Heute geht es um psychische Gesundheit und ich möchte mich ganz herzlich bei Klaus Speidel bedanken, der die Reihe kuratiert.

2
00:00:18.039 --> 00:00:27.760
 Als wir begonnen haben mit dem Thema KI Anfang 2025 und nachgedacht haben über bildende Kunst

3
00:00:27.760 --> 00:00:29.679
 und die Auswirkungen von KI auf Gesellschaft,

4
00:00:30.339 --> 00:00:34.219
 waren wir damit, glaube ich, für ein breites Publikum noch mit die Ersten.

5
00:00:34.340 --> 00:00:39.600
 Jetzt ist es überall und ich freue mich, dass wir so tief inhaltlich eintauchen

6
00:00:39.600 --> 00:00:42.460
 und immer neue Aspekte hier besprechen.

7
00:00:43.259 --> 00:00:46.740
 Ich begrüße auch alle ganz herzlich, die im Stream zusehen

8
00:00:46.740 --> 00:00:49.560
 und uns auf Radio Orange hören.

9
00:00:50.479 --> 00:00:54.799
 Klaus Speidel ist Philosoph, Kurator, Kritiker und er hat an der Angewandten

10
00:00:54.799 --> 00:00:56.560
 und er wird gleich unser Podium vorstellen.

11
00:00:57.399 --> 00:00:58.520
 Schön, dass Sie da sind.

12
00:00:59.399 --> 00:01:02.560
 Wer nachher ins Mikrofon spricht, da wird die Stimme aufgezeichnet,

13
00:01:03.520 --> 00:01:04.439
 nur für Sie zur Info.

14
00:01:05.260 --> 00:01:06.439
 Und ich wünsche

15
00:01:06.439 --> 00:01:08.640
 uns einen guten Austausch

16
00:01:08.640 --> 00:01:10.319
 und einen wunderbaren Abend. Schön, dass

17
00:01:10.319 --> 00:01:10.980
 Sie da sind.

18
00:01:12.840 --> 00:01:14.420
 Ja, vielen herzlichen Dank, Sarah.

19
00:01:15.120 --> 00:01:16.299
 Auch von meiner Seite

20
00:01:16.299 --> 00:01:18.319
 willkommen an alle, die

21
00:01:18.319 --> 00:01:20.120
 im Raum sind und online.

22
00:01:21.019 --> 00:01:22.519
 Ich bin Philosoph,

23
00:01:22.519 --> 00:01:24.459
 habe in Paris promoviert und mich

24
00:01:24.459 --> 00:01:25.819
 tatsächlich auf Kunst spezialisiert.

25
00:01:26.319 --> 00:01:32.060
 Die Idee für die Reihe ist tatsächlich durch das Depot entstanden,

26
00:01:32.280 --> 00:01:35.700
 denn als ihr Jubiläum hattet, hattet ihr, das habe ich glaube ich noch nie erzählt,

27
00:01:35.799 --> 00:01:38.239
 einen Sticker, der sagte künstlerische Intelligenz.

28
00:01:39.219 --> 00:01:44.900
 Und das ist ein Begriff, den Leute aus der Kunstwelt oft gegen die KI ins Treffen führen

29
00:01:44.900 --> 00:01:46.799
 oder mit der KI in Verbindung bringen und so weiter.

30
00:01:46.799 --> 00:01:50.280
 Es gibt jetzt auch ein europäisches Forschungsprojekt, das so heißt.

31
00:01:51.079 --> 00:01:56.680
 Und dann dachte ich, es wäre doch eigentlich interessant, KI-Gespräche hier zu veranstalten.

32
00:01:57.700 --> 00:02:04.659
 Und die Idee war, da auch immer wieder Kunstschaffende mit einzubringen ins Gespräch, aber auch Expertinnen und Experten.

33
00:02:04.659 --> 00:02:05.579
 immer wieder Kunstschaffende mit einzubringen ins Gespräch, aber auch Expertinnen und Experten.

34
00:02:10.639 --> 00:02:16.460
 In einem Fall haben wir heute beides, nämlich mit Michael Funk, der Musiker ist, aber auch Philosoph und Ethiker und mehrere Bücher geschrieben hat bei Springer,

35
00:02:16.719 --> 00:02:49.180
 insbesondere zu Themen der KI-Ethik, nämlich eins, das heißt ganz einfach KI-Ethik, dann auch angewandte Ethik- und Technikbewertung, Roboter, KI-Ethik, Computer und Gesellschaft, Verkörperung und Autonomie. in Wien promoviert und arbeitet jetzt im Informatikdepartement der Uni Wien und macht dort eben Sachen zum

36
00:02:49.180 --> 00:02:55.860
 Thema Computer und Gesellschaft, unterrichtet auch in der Lehrerin-Ausbildung. Ja, und ich freue mich sehr,

37
00:02:56.319 --> 00:03:05.199
 dass ich dich als prominenten Experten heute hier habe. Prof. Dr. Christiane Eichenberg ist Leiterin des Instituts für Psychosomatik

38
00:03:05.199 --> 00:03:08.860
 in der Sigmund Freud Privatuniversität in Wien.

39
00:03:09.360 --> 00:03:13.599
 Sie hat jetzt ein ganz neues Buch, es ist vor vier Wochen jetzt aus dem Druck gekommen,

40
00:03:13.759 --> 00:03:18.319
 nämlich Künstliche Intelligenz und Psychotherapie bei Klett-Kotta veröffentlicht.

41
00:03:18.319 --> 00:03:23.319
 Es gab schon einen Artikel in der FAZ und es wird also immer jetzt ganz viel prominent diskutiert.

42
00:03:24.099 --> 00:03:27.419
 Es freut mich natürlich besonders, dass wir jetzt auch so ein gutes Timing haben,

43
00:03:28.020 --> 00:03:29.819
 dich heute hier zu haben.

44
00:03:30.360 --> 00:03:36.000
 Sie hat aber auch schon 2006 über das Internet als Medium wissenschaftlicher Tätigkeit geschrieben.

45
00:03:36.379 --> 00:03:39.939
 Also Digitalität begleitet dich schon mindestens 20 Jahre.

46
00:03:40.479 --> 00:03:57.419
 Auch als Forschungsthema, du hast Trauma und digitale Medien 2023 veröffentlicht, digitale Selbsthilfe bei psychischen Störungen 2021, das ist jetzt natürlich richtig ein prominentes Thema geworden, auch einer der Anlässe, warum wir heute über das Thema diskutieren.

47
00:04:01.939 --> 00:04:02.439
 Ich freue mich jetzt schon sehr auf das Gespräch mit euch.

48
00:04:05.560 --> 00:04:05.639
 Das Thema heute ist für mich auch ein besonderes.

49
00:04:06.840 --> 00:04:06.979
 Natürlich ist jedes Thema besonders.

50
00:04:07.979 --> 00:04:08.060
 Letztes Mal ging es um Arbeit.

51
00:04:10.740 --> 00:04:13.039
 Das betrifft sehr viele Menschen, auch fast alle. Und da haben wir auch sehr intensiv diskutiert.

52
00:04:14.180 --> 00:04:17.100
 Aber KI und psychische Gesundheit ist für mich so ein Thema,

53
00:04:17.300 --> 00:04:20.740
 das eigentlich nun wirklich alle betrifft, die irgendwie mit Digitalität,

54
00:04:21.379 --> 00:04:24.500
 also die im Internet unterwegs sind, die mit Chatbots interagieren.

55
00:04:25.100 --> 00:04:31.660
 Unser erster großer Kontakt und intensiver Kontakt mit KI war natürlich unter der Motorhaube gewissermaßen,

56
00:04:31.660 --> 00:04:36.300
 nämlich mit den sozialen Netzwerken und mit den Google-Suchresultaten.

57
00:04:36.660 --> 00:04:43.040
 Das ist natürlich schon alles KI-gesteuert, KI-optimiert, aber das wäre jetzt schon fast ideologisch, das zu behaupten,

58
00:04:44.660 --> 00:05:06.199
 Aber das wäre jetzt schon fast ideologisch, das zu behaupten, denn optimiert wofür? Ja, für Google und nicht nur für uns, beziehungsweise eben für die Aufmerksamkeit und wie ein französischer TV-Leiter mal gesagt hat, sein Business sei de vendre du temps de cerveau disponible, also freie Gehirnzeit zu verkaufen.

59
00:05:07.180 --> 00:05:11.819
 Und man könnte auch sagen, dass das auch das Business von Facebook, Instagram und TikTok ist,

60
00:05:11.920 --> 00:05:16.339
 nämlich Gehirne zu verkaufen oder freie Gehirnzeit oder Aufmerksamkeit.

61
00:05:16.439 --> 00:05:19.399
 Heute spricht man eher von Aufmerksamkeitsökonomie.

62
00:05:19.899 --> 00:05:26.199
 Und da ist natürlich KI schon der erste Kontakt oder da ist KI wesentlich involviert.

63
00:05:26.319 --> 00:05:28.379
 Ich würde da auch gerne dann gleich damit anfangen,

64
00:05:29.339 --> 00:05:32.720
 bevor wir dann über das Thema, wodurch es jetzt so sehr prominent wird,

65
00:05:32.720 --> 00:05:36.720
 natürlich Chatbots, Chatbot-Interaktionen, auch Therapiebots

66
00:05:36.720 --> 00:05:41.379
 und wie man das jetzt auch immer nennen mag, zu sprechen.

67
00:05:42.300 --> 00:05:46.879
 Einerseits im Sinne von dem Thema deines Buches auch,

68
00:05:47.019 --> 00:05:49.720
 also was kann KI für psychische Störungen,

69
00:05:49.980 --> 00:05:51.819
 wie kann es bei psychischen Störungen helfen?

70
00:05:52.500 --> 00:05:53.839
 Aber andererseits natürlich auch,

71
00:05:53.920 --> 00:05:56.180
 wie kann es auch psychische Störungen verursachen

72
00:05:56.180 --> 00:05:57.779
 oder mitverursachen,

73
00:05:59.000 --> 00:06:03.759
 ja bis hin eben zu Suiziden auch führen.

74
00:06:04.100 --> 00:06:07.699
 Der erste Fall, der prominent diskutiert wurde, war 2023.

75
00:06:08.980 --> 00:06:12.680
 Ein Mann in Belgien, der unter Öko-Anxiety litt.

76
00:06:13.040 --> 00:06:14.680
 Was ist denn das? Angststörung auf Deutsch, oder?

77
00:06:15.220 --> 00:06:15.779
 Klimaangst.

78
00:06:16.040 --> 00:06:17.180
 Klimaangst, danke schön, vielen Dank.

79
00:06:17.439 --> 00:06:21.379
 Der unter Klimaangst litt, der sehr intensiv mit dem Chatbot interagiert hat

80
00:06:21.379 --> 00:06:28.000
 und irgendwie da immer mehr sich von seiner Frau

81
00:06:28.000 --> 00:06:30.079
 und seinen Kindern distanziert hat und

82
00:06:30.079 --> 00:06:31.560
 letztlich mit dem Chatbot

83
00:06:31.560 --> 00:06:33.879
 gefühlt ein Deal geschlossen hat, dass er

84
00:06:33.879 --> 00:06:36.019
 die Welt rettet oder sie,

85
00:06:36.139 --> 00:06:37.319
 das war glaube ich ein weiblicher,

86
00:06:38.000 --> 00:06:39.800
 also der Chatbot hat als weiblich

87
00:06:39.800 --> 00:06:41.660
 agiert, wenn er sich

88
00:06:41.660 --> 00:06:44.259
 suizidiert und das war so die letzte Interaktion

89
00:06:44.259 --> 00:06:48.160
 und ja, also das sind natürlich die ganz tragischen Fälle.

90
00:06:48.600 --> 00:06:51.160
 Aber was mich auch wahnsinnig interessiert, ist,

91
00:06:51.959 --> 00:06:54.920
 was passiert, wenn wir alltäglich mit diesem System interagieren,

92
00:06:55.100 --> 00:06:58.220
 jetzt, wenn wir nicht mehr uns hinsetzen und nachdenken,

93
00:06:58.279 --> 00:07:02.660
 wenn wir ein Problem haben, sondern zuerst mal unseren Computer hernehmen

94
00:07:02.660 --> 00:07:04.839
 und auch das Gefühl haben, wir können gar nicht mehr nachdenken,

95
00:07:04.839 --> 00:07:06.300
 ohne unseren Computer oder unser Handy auch das Gefühl haben, wir können gar nicht mehr nachdenken ohne unseren Computer

96
00:07:06.300 --> 00:07:12.040
 oder unser Handy oder was auch immer unser Zugangsmittel ist, zu befragen.

97
00:07:12.699 --> 00:07:15.399
 Ich würde gerne mit einer persönlichen Frage anfangen.

98
00:07:15.620 --> 00:07:21.279
 Wie ist denn das Thema KI für euch zum Thema der Forschung geworden?

99
00:07:21.480 --> 00:07:22.319
 Vielleicht Christiane.

100
00:07:22.459 --> 00:07:23.000
 Ja, gerne.

101
00:07:23.399 --> 00:07:27.819
 Also ich beschäftige mich, wie du schon gesagt hast, seit 20 Jahren mit digitalen Medien

102
00:07:27.819 --> 00:07:30.939
 und mich interessieren immer die Chancen, aber auch die Risiken.

103
00:07:31.240 --> 00:07:36.459
 Also das Internet damals, was bringt es denn für Möglichkeiten, Online-Therapie, Online-Beratung?

104
00:07:36.779 --> 00:07:40.220
 Auf der anderen Seite, was bringt es denn für klinisch relevante Probleme mit sich?

105
00:07:41.180 --> 00:07:46.959
 Du hast eben über den Fall der Suizidalität da gesprochen, das gab es beim Internet auch,

106
00:07:47.019 --> 00:07:51.339
 da gab es sogenannte Suizidforen, die Menschen haben sich im Internet verabredet, um sich

107
00:07:51.339 --> 00:07:57.459
 gemeinsam sozusagen das Leben zu nehmen. Das heißt, andere Probleme, Internetsucht beispielsweise

108
00:07:57.459 --> 00:08:05.000
 oder Selbsthilfeforen von essgestörten Jungen, die aber nicht unbedingt die Störung gemeinsam überwinden wollen,

109
00:08:05.360 --> 00:08:11.699
 sondern Contests gestartet haben, um sich sozusagen noch mehr in die Magersucht zu treiben,

110
00:08:11.800 --> 00:08:14.600
 weil die Krankheit so etwas wie ein Identitätsmerkmal war.

111
00:08:14.920 --> 00:08:19.160
 Das heißt, wenn wir die aus der psychotherapeutischen oder psychologischen Perspektive

112
00:08:19.160 --> 00:08:22.980
 uns digitale Medien anschauen, sind damit Chancen und Grenzen verbunden.

113
00:08:22.980 --> 00:08:26.379
 Oder auch Probleme, aber eben auch Möglichkeiten.

114
00:08:27.019 --> 00:08:28.620
 Ja, und bei KI ist es dasselbe.

115
00:08:28.860 --> 00:08:30.899
 Und mich interessiert eben hier auch insbesondere,

116
00:08:31.019 --> 00:08:34.379
 was gibt es für Optionen für die Psychotherapie?

117
00:08:34.580 --> 00:08:37.240
 Wenn wir darüber sprechen, Chatbots beispielsweise,

118
00:08:37.480 --> 00:08:38.860
 was bringt das Menschen?

119
00:08:39.039 --> 00:08:41.399
 Hat es Vorteile, kann es wirklich Entlastung bringen?

120
00:08:41.399 --> 00:08:43.000
 Können wir da überhaupt von Therapie reden?

121
00:08:43.460 --> 00:08:49.340
 Auf der anderen Seite aber auch, wie du sagst, wie kann es denn psychische Störungen aggravieren?

122
00:08:49.340 --> 00:08:54.120
 Was ist mit KI-Abhängigkeit, was ist mit Stichworten wie De-Skilling?

123
00:08:55.039 --> 00:09:04.679
 Das hat man ja in verschiedenen Bereichen, auch in der Arbeitswelt, wenn ich auch Kinder in der Schule die Texte nur noch von der KI schreiben lasse,

124
00:09:04.779 --> 00:09:07.159
 verlerne ich dann irgendwann selber auch Texte zu schreiben.

125
00:09:07.700 --> 00:09:12.679
 Und dasselbe ist natürlich auch, wenn wir unser inneres Selbstmanagement

126
00:09:12.679 --> 00:09:14.600
 oder Emotionsmanagement anschauen.

127
00:09:14.960 --> 00:09:18.159
 Was ist es denn, wenn ich mich ständig sozusagen nur noch

128
00:09:18.159 --> 00:09:21.600
 oder von der Maschine validieren lassen muss,

129
00:09:21.860 --> 00:09:27.899
 um überhaupt meinen eigenen Gedanken, Einstellungen, Entscheidungen zu trauen.

130
00:09:28.220 --> 00:09:32.539
 Gibt es denn nicht dann sowas wie auch eine Abgabe von kognitiver Kontrolle?

131
00:09:33.179 --> 00:09:42.139
 Also nur um jetzt mal so das Thema so aufzureißen, was es alles für Schnittstellen an Themen gibt, die mich brennend interessieren.

132
00:09:43.100 --> 00:09:47.139
 Ja, vielen Dank. Wie ist es bei dir? Wie bist du bei den Digitalthemen

133
00:09:47.139 --> 00:09:53.679
 gelandet? Naja, ich habe ja Philosophie studiert, wie du schon gesagt hast. Da kommt man um die

134
00:09:53.679 --> 00:09:58.960
 Themen gar nicht ringsherum. Du hast vorhin das schöne Bild gemalt, der Blick unter die Motorhaube

135
00:09:58.960 --> 00:10:03.460
 sozusagen und das ist ja das, was man in der Philosophie eigentlich auch ein bisschen macht

136
00:10:03.460 --> 00:10:07.440
 oder machen sollte. Also hinter die Kulissen, unter die Motorhauben zu schauen

137
00:10:07.440 --> 00:10:12.679
 und natürlich auch in den Gesellschaften an den Rändern sich etwas schlauer zu machen

138
00:10:12.679 --> 00:10:13.860
 und da den Blick hinzuwenden.

139
00:10:14.059 --> 00:10:17.779
 Also das heißt, eine schlechte Philosophie kann natürlich durch einen Chatbot leicht ersetzt werden,

140
00:10:18.360 --> 00:10:21.440
 weil eine schlechte Philosophie, so würde ich jetzt einfach mal behaupten,

141
00:10:21.779 --> 00:10:24.419
 eher ein Glasperlenspiel ist, ein Spiel mit Begriffen,

142
00:10:24.480 --> 00:10:27.159
 deren Semantik mehr oder weniger klärungsbedürftig ist

143
00:10:27.159 --> 00:10:30.379
 und letztendlich einen gewissen Erwartungswert reproduziert.

144
00:10:30.480 --> 00:10:33.480
 Die Philosophinnen und Philosophen, die uns heute in Erinnerung bleiben,

145
00:10:33.980 --> 00:10:37.879
 sind diejenigen, die aus einem gesellschaftlichen Konsens ausgeschert sind.

146
00:10:38.159 --> 00:10:42.340
 Also das sind natürlich, wenn man in die Antike zurückschaut zu den Vorsokratikern,

147
00:10:42.419 --> 00:10:45.899
 das sind halt eben Menschen, die bestimmte religiöse, mythologische Weltbilder,

148
00:10:46.240 --> 00:10:48.200
 die im Konsens, im Durchschnitt,

149
00:10:48.340 --> 00:10:49.740
 im Mittelwert durchaus

150
00:10:49.740 --> 00:10:51.679
 verbreitet waren, hinterfragt haben.

151
00:10:52.139 --> 00:10:53.960
 Jetzt können wir die Geschichten durcherzählen

152
00:10:53.960 --> 00:10:55.840
 über Descartes bis Nietzsche, ich will gar nicht so viel

153
00:10:55.840 --> 00:10:58.000
 Name-Dropping machen, aber Philosophie

154
00:10:58.000 --> 00:10:59.840
 zumindest, die an die wir uns heute erinnern, ist

155
00:10:59.840 --> 00:11:01.860
 geleistet worden von Personen,

156
00:11:02.440 --> 00:11:04.139
 die halt eben unter die Motorhauben

157
00:11:04.139 --> 00:11:06.940
 geschaut haben und an den Rändern der Gesellschaft geschaut haben.

158
00:11:07.399 --> 00:11:11.279
 Wenn man das Ganze dann studiert und versucht, sich damit auseinanderzusetzen,

159
00:11:11.379 --> 00:11:14.419
 mehr oder weniger akademisch, bleibt einem gar nichts anderes übrig,

160
00:11:14.620 --> 00:11:17.139
 als sich mit künstlicher Intelligenz zu beschäftigen,

161
00:11:17.200 --> 00:11:19.940
 eben auch da, wo man die überhaupt gar nicht vermutet.

162
00:11:19.940 --> 00:11:25.419
 Das liegt unter anderem daran, dass der Begriff künstliche Intelligenz eine Metapher ist,

163
00:11:25.559 --> 00:11:30.799
 die genau genommen eigentlich eine grobsachliche falsche Übersetzung von Artificial Intelligence darstellt.

164
00:11:30.879 --> 00:11:36.700
 Also Artificial Intelligence, Dartmouth Conference 1956, Minsky und andere,

165
00:11:36.799 --> 00:11:39.779
 Claude Shannon heißt technische Informationsverarbeitung,

166
00:11:40.159 --> 00:11:45.620
 Intelligence im amerikanischen Englischen ist ja die CIA, die Central Intelligence Agency,

167
00:11:45.799 --> 00:11:50.120
 die beschaffen ja Informationen, das ist ein Nachrichtendienst, das ist keine Bildungsbehörde.

168
00:11:50.220 --> 00:11:55.519
 Das heißt, wenn ich jetzt auf Deutsch sage, ich übersetze Intelligence, Nachrichten, Informationsverarbeitung

169
00:11:55.519 --> 00:12:00.379
 und sage, das ist jetzt Intelligenz auf einmal, dann verschiebe ich damit die Begriffsbedeutung.

170
00:12:01.120 --> 00:12:05.980
 Also das heißt, ich verzerre die Metapher und wenn wir jetzt quasi mal genau hinschauen, technische

171
00:12:05.980 --> 00:12:07.240
 Informationsverarbeitung,

172
00:12:07.799 --> 00:12:09.860
 dann finden wir sehr viel, was für Philosophinnen

173
00:12:09.860 --> 00:12:11.960
 und Philosophen sehr relevant ist. Da will ich

174
00:12:11.960 --> 00:12:13.659
 jetzt gar nicht zu tief eintauchen,

175
00:12:14.080 --> 00:12:16.059
 aber die Klassiker sind die Körper-Geist-

176
00:12:16.059 --> 00:12:17.700
 Verhältnisse, also auf gut Deutsch

177
00:12:17.700 --> 00:12:19.860
 Hardware-Software, in welchem Zusammenhang steht

178
00:12:19.860 --> 00:12:21.820
 das? Ist es getrennt? Ist es verbunden?

179
00:12:22.519 --> 00:12:24.000
 Oder eben dann natürlich auch Fragen

180
00:12:24.000 --> 00:12:28.940
 wie, was ist überhaupt ein Bewusstsein, was ist Intelligenz, ist das rein kognitives,

181
00:12:29.440 --> 00:12:32.779
 rein intellektuelles Problemlösen, so wie es Alan Turing mal in seinem

182
00:12:32.779 --> 00:12:36.360
 auch philosophisch bedeutenden Aufsatz zum Turing-Test geschrieben hat,

183
00:12:36.759 --> 00:12:41.500
 oder ist Intelligenz doch noch viel mehr und dann wird es leider oder Gott sei Dank ideologisch,

184
00:12:41.700 --> 00:12:45.620
 nämlich welche Weltbilder, welche Menschenbilder hängen da mit dem Hintergrund zusammen.

185
00:12:46.120 --> 00:12:48.759
 Das heißt also, wenn man bereit ist, unter künstlicher Intelligenz

186
00:12:48.759 --> 00:12:50.539
 nicht nur eine diffuse Metapher zu verstehen,

187
00:12:50.919 --> 00:12:54.620
 da wird man unweigerlich ein philosophisches Interesse daran finden.

188
00:12:54.940 --> 00:12:56.820
 Und der Rest ist halt einfach Faszinosum.

189
00:12:57.759 --> 00:12:59.379
 Man kennt es aus der Science Fiction,

190
00:12:59.919 --> 00:13:03.159
 man guckt sich dann so Filme an von Terminator bis Matrix bis sonst was

191
00:13:03.159 --> 00:13:06.679
 und irgendwie ist man dann schon neugierig, was steckt denn da jetzt wirklich dahinter.

192
00:13:08.059 --> 00:13:08.820
 Vielen Dank.

193
00:13:11.220 --> 00:13:17.000
 Du hast jetzt schon den Beginn genannt in den 60er Jahren oder 50er, 60er Jahren.

194
00:13:17.700 --> 00:13:22.980
 Natürlich ist diese prominente Nutzung der digitalen Medien ein neueres Phänomen.

195
00:13:23.940 --> 00:13:25.879
 Da habe ich mich gefragt aus deiner Praxis,

196
00:13:26.000 --> 00:13:28.240
 du bist ja auch Psychotherapeutin,

197
00:13:28.360 --> 00:13:30.559
 also nicht nur Professorin an dem Institut.

198
00:13:31.039 --> 00:13:34.480
 Was hat sich denn in den letzten 20 Jahren geändert,

199
00:13:34.620 --> 00:13:39.340
 auch im Gespräch mit Patientinnen und Patienten?

200
00:13:40.299 --> 00:13:42.159
 Ja, Patienten bringen die Themen ein.

201
00:13:42.659 --> 00:13:45.259
 Ich habe jetzt zum Beispiel einen Patienten,

202
00:13:45.679 --> 00:13:48.340
 es verändert sich eben auch, der hat enormen Liebeskummer,

203
00:13:48.419 --> 00:13:50.299
 das habe ich dir im Vorgespräch auch schon erzählt,

204
00:13:50.720 --> 00:13:55.000
 und fragt ständig die KI, ob nicht seine Ex vielleicht doch verrückt ist,

205
00:13:55.279 --> 00:13:57.019
 weil die das beruhigen könnte.

206
00:13:57.759 --> 00:13:59.620
 Also dann sagt er zu mir, ja, Frau Eichenberg,

207
00:13:59.860 --> 00:14:01.259
 ich glaube, es ist für Sie auch schwierig,

208
00:14:01.399 --> 00:14:03.379
 weil ich lasse mich nicht so verführen,

209
00:14:03.559 --> 00:14:05.700
 dass ich ihm sage, dass die Ex verrückt ist, das wäre keine Psychotherapie, weil ich lasse mich nicht so verführen, dass ich ihm sage, dass die Ex verrückt ist.

210
00:14:05.759 --> 00:14:08.399
 Das wäre keine Psychotherapie, weil ich die Frau überhaupt nicht kenne.

211
00:14:09.000 --> 00:14:16.440
 Aber sozusagen Patienten nutzen die KI, um zu sagen, wo stehen wir jetzt heute und diskutieren psychosoziale Probleme damit.

212
00:14:16.919 --> 00:14:25.360
 Und günstigerweise bringen sie die Themen oder öffnen sich auch damit und bringen das in die Therapie auch ein, weil dann können Sie natürlich damit umgehen.

213
00:14:25.639 --> 00:14:27.639
 Es löst auch Übertragungsprozesse aus.

214
00:14:28.039 --> 00:14:30.840
 Also wie jetzt bei dem Patienten, der zu mir gesagt hat,

215
00:14:30.919 --> 00:14:32.860
 Frau Eichmär, ich glaube, das ist schwierig für Sie,

216
00:14:33.399 --> 00:14:38.059
 dass ich die KI frage und die KI vielleicht sogar manchmal bessere Antworten für ihn,

217
00:14:38.460 --> 00:14:40.240
 die gewünschten Antworten ihm gibt.

218
00:14:40.240 --> 00:14:44.019
 Ja, und ich denke, wichtig ist auch jetzt,

219
00:14:44.120 --> 00:15:05.059
 wenn wir von der Psychotherapie oder von der psychotherapeutischen Praxis reden, eben auch zu wissen, was machen unsere Patientinnen und Patienten im Internet, wie nutzen die die KI, um eben auch zu schauen, wirkt sich das positiv für deren psychische Genesung aus oder eher negativ. Also inwiefern ist denn auch der Umgang mit der KI verbunden mit dem realen Leben?

220
00:15:08.600 --> 00:15:08.899
 Also ist das die wichtigste, einzige Bezugsperson?

221
00:15:14.340 --> 00:15:14.720
 Auch wenn wir über Risiken oder Chancen sprechen, ist auch immer die Frage der Dosis.

222
00:15:19.500 --> 00:15:19.820
 Also wie viel Anteil nimmt denn das Gespräch mit der KI oder auch der Motivlage?

223
00:15:21.240 --> 00:15:21.779
 Was erwarte ich mir denn davon?

224
00:15:25.360 --> 00:15:25.820
 Und ich denke, wenn wir auch über Psychotherapie reden,

225
00:15:27.600 --> 00:15:27.940
 geht es auch nicht mehr um die Frage,

226
00:15:30.179 --> 00:15:31.340
 erhält KI Einzug in die Psychotherapie?

227
00:15:31.740 --> 00:15:33.879
 Sie ist schon längst da, nicht nur

228
00:15:33.879 --> 00:15:35.580
 von Seiten, das sind nur noch welche

229
00:15:35.580 --> 00:15:37.759
 Nutzungsmöglichkeiten bietet denn die KI auch für

230
00:15:37.759 --> 00:15:39.639
 die Psychotherapie, sondern

231
00:15:39.639 --> 00:15:41.779
 sie ist einfach schon da, weil unsere

232
00:15:41.779 --> 00:15:44.100
 Patienten und Patienten sie nutzen.

233
00:15:44.360 --> 00:15:46.580
 Und das auch zu emotionalen

234
00:15:46.580 --> 00:15:48.200
 Themen. Also da gibt es

235
00:15:48.200 --> 00:15:50.159
 aktuelle Befragungen von der

236
00:15:50.159 --> 00:15:52.279
 Stiftung für deutsche Depressionshilfe

237
00:15:52.279 --> 00:15:54.299
 zum Beispiel, ging letzte

238
00:15:54.299 --> 00:15:56.120
 Woche durch die Presseverteiler,

239
00:15:56.580 --> 00:15:58.139
 von den jungen Leuten, 16

240
00:15:58.139 --> 00:16:00.159
 bis 39, wenn sie mal

241
00:16:00.159 --> 00:16:02.399
 schätzen würden, oder wenn

242
00:16:02.399 --> 00:16:03.559
 ihr mal schätzen wollt,

243
00:16:04.159 --> 00:16:06.720
 was denkt ihr, wie viele nutzen ki bots

244
00:16:06.720 --> 00:16:11.419
 also allgemeine ki bots gibt auch noch spezialisierte therapie botzen extra darauf

245
00:16:11.419 --> 00:16:16.019
 trainiert das aber was anderes ich denke die spielen auch eher eine untergeordnete rolle

246
00:16:16.019 --> 00:16:28.779
 also der größte teil wird mit chat gbt gemini und so weiter sprechen wie viel der 16- bis 39-Jährigen nutzen denn solche KI-Bots für emotionale Themen?

247
00:16:28.960 --> 00:16:29.659
 Was schätzt ihr?

248
00:16:33.419 --> 00:16:38.080
 Also ich hätte mindestens 45 Prozent geschätzt.

249
00:16:38.379 --> 00:16:39.320
 Mehr, zwei Drittel.

250
00:16:39.899 --> 00:16:44.879
 Und wenn wir dann aber schauen, also das war wie gesagt von der Stiftung für deutsche Depressionshilfe,

251
00:17:07.700 --> 00:17:07.819
 Und wenn wir dann aber schauen, also das war wie gesagt von der Stiftung für deutsche Depressionshilfe oder so ähnliches, und die haben dann eben auch noch Zahlen veröffentlicht für die Nutzungsintensität von Menschen, die sich aktuell in einer depressiven Episode befinden, also denen es schlecht geht, dass es auch eben für emotionale Belange genutzt wird,

252
00:17:19.099 --> 00:17:20.119
 jetzt mal unabhängig von Chancen und Problemen, aber es ist einfach als Gegenüber für psychische Fragen, Probleme da.

253
00:17:22.359 --> 00:17:22.500
 Ja, jetzt hätte ich zwei Möglichkeiten anzuknüpfen.

254
00:17:27.319 --> 00:17:29.279
 Das eine ist jetzt tatsächlich nach den Gefahren zu fragen, ich würde aber gerne mit der ethischen Frage anknüpfen.

255
00:17:42.339 --> 00:17:55.480
 Ich lese gerade ein schon älteres Buch von Sherry Turkle wieder über Conversation, über Gespräch und da beschreibt sie ihre Erfahrung, sie ist am MIT, Soziologin, mit so einer Roboterrobbe, die versucht, das MIT in Altersheimen, Pflegeheimen usw. zum Einsatz zu bringen.

256
00:17:56.079 --> 00:18:05.000
 Und da beschreibt sie eine Szene, wo so eine alte Dame, 76, die unter Demenz leidet, sich so eine Roboter-Robbe öffnet.

257
00:18:05.700 --> 00:18:10.980
 Und diese Roboter-Robbe erzählt vom Tod ihres Sohnes und wie sie das mitnimmt.

258
00:18:11.500 --> 00:18:14.920
 Und sie sagt, meine Kolleginnen waren Feuer und Flamme.

259
00:18:15.200 --> 00:18:20.000
 Meine Kolleginnen fanden das ganz toll, dass die Roboter-Robbe funktioniert,

260
00:18:21.299 --> 00:18:22.599
 dass die Frau sich öffnet.

261
00:18:23.059 --> 00:18:25.140
 Ich aber, sagt sie, bin traurig geworden.

262
00:18:25.500 --> 00:18:27.259
 Und für sie ist das so ein Schlüsselerlebnis.

263
00:18:27.880 --> 00:18:29.880
 Für mich ist das jetzt eine ethische Frage

264
00:18:29.880 --> 00:18:32.359
 und deswegen schaue ich auch jetzt schon dich an.

265
00:18:33.759 --> 00:18:35.960
 Bist du traurig oder findest du das toll?

266
00:18:36.279 --> 00:18:39.559
 Oder sollten wir, ja, wie sollen wir das bewerten?

267
00:18:39.920 --> 00:18:42.660
 Also man kann ja verstehen, dass man sich freut,

268
00:18:42.740 --> 00:18:46.759
 weil die Dame wird nicht immer einen Gesprächspartner haben.

269
00:18:47.559 --> 00:18:49.400
 Jetzt hat sie immerhin

270
00:18:49.400 --> 00:18:51.039
 das Gefühl, gehört zu werden.

271
00:18:52.119 --> 00:18:52.880
 Da kann man sich

272
00:18:52.880 --> 00:18:54.460
 jetzt auch fragen, wie man darüber spricht.

273
00:18:54.799 --> 00:18:56.460
 Ich sage jetzt nicht, jetzt wird sie gehört.

274
00:18:57.000 --> 00:18:58.519
 Sie hat das Gefühl, gehört zu werden.

275
00:18:59.019 --> 00:19:01.039
 Ist das sozusagen was Gutes?

276
00:19:01.539 --> 00:19:02.920
 Oder weil

277
00:19:02.920 --> 00:19:04.619
 sie nur das Gefühl hat und das letztlich

278
00:19:04.619 --> 00:19:07.000
 eine Illusion ist, ist es was Schlechtes?

279
00:19:09.460 --> 00:19:15.559
 Der Ethiker sagt, wir haben ja Gott sei Dank in der deutschen Sprache eine Unterscheidung zwischen Ethik und Moral und noch ein paar anderen Konzepten.

280
00:19:16.180 --> 00:19:21.140
 Das heißt also als Mensch mit einer gewissen Moral und Affekten, Empfindungen, Emotionen,

281
00:19:21.720 --> 00:19:29.099
 ist es natürlich jetzt erstmal allgemein gesagt traurig, wenn Menschen einsam altern oder Schwierigkeiten haben,

282
00:19:29.200 --> 00:19:32.920
 warum auch immer, vielleicht weil Bezugspersonen fehlen

283
00:19:32.920 --> 00:19:35.940
 und sich dann zum Beispiel halt Gegenständen öffnen.

284
00:19:36.519 --> 00:19:39.880
 Das ist sozusagen das, was ich jetzt moralisch, emotional dazu sagen kann.

285
00:19:39.960 --> 00:19:41.599
 Aber du hast mich als Ethiker angesprochen

286
00:19:41.599 --> 00:19:43.980
 und natürlich haben wir zum Glück diese Unterscheidung,

287
00:19:44.019 --> 00:19:46.220
 weil diese Unterscheidung zählt schon auf etwas Wichtiges ab.

288
00:19:46.299 --> 00:19:50.259
 Dass wir in einer Ethik sagen, zumindest ist Ethik das nicht nur,

289
00:19:50.380 --> 00:19:53.160
 aber auch ganz wesentlich eine Wissenschaft von der Moral.

290
00:19:53.619 --> 00:19:56.019
 Jetzt schauen wir methodisch drauf, jetzt rationalisieren wir das.

291
00:19:56.619 --> 00:19:59.400
 Und da ist es natürlich schon so, dass wir hier eine Art,

292
00:19:59.400 --> 00:20:03.920
 ja vielleicht Anthropomorphisierung oder in dem Fall eine Zoonomorphisierung finden.

293
00:20:04.059 --> 00:20:06.339
 Das heißt dann auf gut Deutsch, ich habe einen Gegenstand,

294
00:20:06.720 --> 00:20:07.980
 den ich vermenschliche. Das wäre die

295
00:20:07.980 --> 00:20:10.299
 Anthropomorphisierung oder ein Gegenstand, der aussieht

296
00:20:10.299 --> 00:20:12.200
 wie eine Pflegerobbe. Ich nehme an, das war vielleicht Paro.

297
00:20:12.640 --> 00:20:13.740
 Diese bekannte Robbe, die

298
00:20:13.740 --> 00:20:15.980
 seit längerem, seit 15 Jahren länger schon

299
00:20:15.980 --> 00:20:18.039
 in Medien gerne präsent

300
00:20:18.039 --> 00:20:19.759
 vorgeführt wird. Und wenn ich das jetzt natürlich

301
00:20:19.759 --> 00:20:21.960
 vertierische, also das heißt da eine Art

302
00:20:21.960 --> 00:20:24.259
 Lebendigkeit reininterpretiere, könnte man

303
00:20:24.259 --> 00:20:26.200
 das Zoonomorphismus nennen. Das ist typisch

304
00:20:26.200 --> 00:20:28.099
 menschlich, also das machen wir mit allen möglichen

305
00:20:28.099 --> 00:20:30.299
 Gegenständen und warum dann

306
00:20:30.299 --> 00:20:32.180
 auch nicht mit so einer Pflegerobber, die

307
00:20:32.180 --> 00:20:34.259
 dann vielleicht Teddybär 5.0 oder wie auch

308
00:20:34.259 --> 00:20:36.480
 immer ist. Frühkindlicher Animismus

309
00:20:36.480 --> 00:20:38.359
 ist ja auch, also ich kann mich dazu

310
00:20:38.359 --> 00:20:40.259
 auch bekennen, also warum soll ich nicht mit einem

311
00:20:40.259 --> 00:20:42.200
 Kuscheltier reden, warum sollte mir das peinlich sein,

312
00:20:42.279 --> 00:20:44.319
 was ist denn schlimm daran, Kleinkinder machen das,

313
00:20:44.420 --> 00:20:45.960
 warum sollen wir das nicht auch als Erwachsener machen.

314
00:20:46.460 --> 00:20:48.660
 Nur als Ethiker, als Philosoph muss ich dann natürlich sagen,

315
00:20:48.779 --> 00:20:52.779
 okay, jetzt abstrahiere ich drauf, also was steht da halt eben dahinter.

316
00:20:53.200 --> 00:20:55.819
 Und dann ist die entscheidende Frage, der entscheidende Knackpunkt,

317
00:20:56.000 --> 00:20:59.619
 bin ich gerechtfertigt anzunehmen, dass es sich dabei um eine Bezugsperson handelt.

318
00:21:00.339 --> 00:21:02.619
 Also bin ich gerechtfertigt aus ethischer Sicht anzunehmen,

319
00:21:02.980 --> 00:21:04.839
 dass ein informationsverarbeitendes System,

320
00:21:04.839 --> 00:21:07.880
 eine technische Informationsverarbeitung für mich eine Bezugsperson ist?

321
00:21:08.339 --> 00:21:17.180
 Oder bin ich gerechtfertigt in der Annahme, dass eine solche Robbe, das heißt, wir hatten ja vorhin schon ein bisschen diesen Joke fast gehabt, das ist ein Smartphone mit ein bisschen Stoff und ein paar Aktuatoren außenrum.

322
00:21:17.640 --> 00:21:25.579
 Also bin ich gerechtfertigt in der Annahme, dass jetzt so ein Minicomputer für mich eine Art Bezugstier ist oder was auch immer. Und ich glaube, das sind zwei getrennte Fragen.

323
00:21:25.759 --> 00:21:29.720
 Also das eine ist zu sagen, okay, naja, betrifft das einen,

324
00:21:29.819 --> 00:21:32.859
 wenn man einsam Alter hat, tut mir das weh, wenn ich das von anderen Leuten höre.

325
00:21:33.460 --> 00:21:35.400
 Will ich das selber für mich, will ich das für andere?

326
00:21:35.400 --> 00:21:36.660
 Ja, nein, das ist nur die eine Frage.

327
00:21:37.200 --> 00:21:38.700
 Aber die andere Frage ist dann tatsächlich,

328
00:21:39.019 --> 00:21:41.839
 welche Rolle dabei solche technologischen Mittel spielen.

329
00:21:42.500 --> 00:21:44.779
 Also auf gut Deutsch, wenn das ein normaler Teddybär gewesen wäre,

330
00:21:44.839 --> 00:21:46.059
 hätten wir jetzt vielleicht die Diskussion

331
00:21:46.059 --> 00:21:47.680
 nicht darüber. Und

332
00:21:47.680 --> 00:21:50.059
 insofern ist das eigentlich der ethische Knackpunkt

333
00:21:50.059 --> 00:21:51.960
 und ethisch würde ich jetzt schon mal

334
00:21:51.960 --> 00:21:53.680
 die These vertreten zu sagen, wir sind nicht

335
00:21:53.680 --> 00:21:55.640
 gerechtfertigt darin, in so einem

336
00:21:55.640 --> 00:21:58.240
 informationsverarbeitenden System eine Bezugsperson

337
00:21:58.240 --> 00:21:59.700
 zu erkennen. Zumindest

338
00:21:59.700 --> 00:22:01.920
 nicht, wenn wir uns die IT-Systeme

339
00:22:01.920 --> 00:22:03.720
 und die KI-Systeme anschauen,

340
00:22:04.119 --> 00:22:05.420
 mit denen wir momentan operieren.

341
00:22:05.599 --> 00:22:08.059
 Dass da vielleicht es alternative Ansätze gibt

342
00:22:08.059 --> 00:22:10.240
 und in 100 Jahren, in Zukunft kann ich auch nicht schauen,

343
00:22:10.740 --> 00:22:12.759
 wie dann vielleicht andere Systeme haben werden, das wird sich zeigen.

344
00:22:13.220 --> 00:22:14.920
 Aber hier muss man, denke ich, schon sehr genau aufpassen.

345
00:22:15.000 --> 00:22:16.259
 Wo finden Vermenschlichungen statt?

346
00:22:16.339 --> 00:22:18.740
 Wo sind die gerechtfertigt und wo sind die nicht gerechtfertigt?

347
00:22:19.359 --> 00:22:22.220
 Und das ist dann sozusagen das methodische, analytische Handwerkszeug,

348
00:22:22.279 --> 00:22:23.359
 das genau auseinanderzunehmen.

349
00:22:23.720 --> 00:22:25.539
 Wie gesagt, nochmal künstliche Intelligenz,

350
00:22:25.599 --> 00:22:27.099
 da fängt der ganze Schlamassel ja schon an,

351
00:22:27.500 --> 00:22:29.359
 dass wir hier eine diffuse Metapher eindeutschen

352
00:22:29.359 --> 00:22:32.279
 und uns dabei eine ganze Menge an Bedeutungen mit einkaufen,

353
00:22:32.420 --> 00:22:34.539
 die eigentlich in der technischen Informationsverarbeitung

354
00:22:34.539 --> 00:22:35.839
 noch gar nicht drin stecken.

355
00:22:37.000 --> 00:22:38.440
 Ich meine, wenn du jetzt sagst,

356
00:22:38.440 --> 00:22:41.619
 sind wir gerechtfertigt, deine Bezugsperson zu sehen?

357
00:22:41.940 --> 00:22:43.720
 Also die Frage ist ja nicht so sehr,

358
00:22:44.299 --> 00:22:46.779
 ob die alte Dame gerechtfertigt ist,

359
00:22:46.900 --> 00:22:49.680
 sondern ich sehe irgendwo die Frage

360
00:22:49.680 --> 00:22:52.519
 eher an die Entwickler dieser Robbe gerichtet.

361
00:22:52.819 --> 00:22:53.940
 Also sind wir gerechtfertigt,

362
00:22:54.000 --> 00:22:56.299
 Systeme zu entwickeln, die darauf abzielen,

363
00:22:57.440 --> 00:22:59.940
 mit Bezugspersonen identifiziert zu werden?

364
00:23:00.259 --> 00:23:01.500
 Das wäre für mich sozusagen,

365
00:23:02.779 --> 00:23:04.980
 also ist da die Antwort die gleiche?

366
00:23:06.960 --> 00:23:11.380
 Also in der Technikbewertung, in der Technikethik würde man jetzt an der Stelle auch reinhebeln.

367
00:23:11.700 --> 00:23:13.480
 Entschuldigung, wenn ich jetzt den Fachphilosophen spiele.

368
00:23:14.000 --> 00:23:17.519
 Aber es ist zu einfach zu sagen, es gibt Nutzerinnen und Herstellerinnen.

369
00:23:18.059 --> 00:23:22.339
 Das ist in der Technikbewertung der Klassiker, wer ist verantwortlich, die Ingenieurinnen oder die Nutzerinnen.

370
00:23:22.839 --> 00:23:26.640
 Wir haben ein AI-Act momentan von der EU, wo die EU natürlich sagt,

371
00:23:26.700 --> 00:23:29.019
 wir müssen die Handlungsperspektiven erstmal aufschlüsseln

372
00:23:29.019 --> 00:23:33.099
 und zum Beispiel die Invertriebbringerinnen mit einer besonderen Verantwortung auch versieht.

373
00:23:33.519 --> 00:23:36.759
 Und das ist relativ wichtig, weil natürlich viel mehr Personen mit einer AI

374
00:23:36.759 --> 00:23:40.720
 und gerade mit so komplexen Systemen zu tun haben, als von denjenigen, die das jetzt herstellen.

375
00:23:41.259 --> 00:23:46.279
 Wenn ich jetzt sage, diejenigen, die das entwickeln, sind für ziemlich jeden Schindluder dann verantwortlich,

376
00:23:46.640 --> 00:23:47.880
 der damit betrieben wird, dann haben wir

377
00:23:47.880 --> 00:23:49.740
 keine technische Innovation mehr. Da werden natürlich

378
00:23:49.740 --> 00:23:51.839
 zu Recht Informatikerinnen wieder aua schreien

379
00:23:51.839 --> 00:23:53.779
 und sagen, okay, das skaliert dann hoch

380
00:23:53.779 --> 00:23:55.799
 bis zum Innovationsstandort Europa, der dann

381
00:23:55.799 --> 00:23:57.960
 völlig abgehängt wird von China und den

382
00:23:57.960 --> 00:23:59.799
 USA. Das können wir dann ein bisschen geostrategisch

383
00:23:59.799 --> 00:24:01.980
 hochskalieren. Also wird natürlich

384
00:24:01.980 --> 00:24:03.900
 genauer hingeschaut, wer denn unter

385
00:24:03.900 --> 00:24:05.759
 welchen Bedingungen verantwortlich wäre und dann

386
00:24:05.759 --> 00:24:07.859
 werden das in Vertriebbringern vielleicht

387
00:24:07.859 --> 00:24:09.240
 dann, das muss man genau schauen,

388
00:24:09.880 --> 00:24:11.839
 diejenigen Personen, die Pflegeeinrichtungen

389
00:24:11.839 --> 00:24:14.000
 vielleicht leiten oder Zertifizierungsstellen

390
00:24:14.000 --> 00:24:15.299
 gibt es natürlich auch. Da ist die,

391
00:24:15.700 --> 00:24:17.539
 sind wir in der EU jetzt auch gerade ziemlich busy damit,

392
00:24:17.619 --> 00:24:19.720
 überhaupt die Institutionen für die Zertifizierung,

393
00:24:20.160 --> 00:24:21.579
 für die Festlegung, ja was ist das

394
00:24:21.579 --> 00:24:23.660
 Risiko, was ist eine Hochrisiko-KI

395
00:24:23.660 --> 00:24:27.000
 und so weiter. Also das nicht nur zu definieren in einem Kodex oder einem Gesetz,

396
00:24:27.099 --> 00:24:29.000
 sondern auch praktisch handlungsleitend umzusetzen.

397
00:24:29.619 --> 00:24:31.180
 Da sind wir in einer sehr dynamischen Diskussion.

398
00:24:31.279 --> 00:24:33.039
 Da ist es eigentlich das Gebot der Stunde,

399
00:24:33.200 --> 00:24:35.619
 auch hier die Perspektiven nicht zu schnell zu verkürzen,

400
00:24:36.000 --> 00:24:38.779
 sondern zu schauen, wer macht was damit und wer ist davon betroffen.

401
00:24:40.380 --> 00:24:43.079
 Aber das ist sozusagen, entschuldige, dass ich jetzt insistiere,

402
00:24:43.079 --> 00:24:47.279
 sozusagen jetzt ein bisschen philosophische, vielleicht, ich weiß es nicht,

403
00:24:47.380 --> 00:24:51.400
 man könnte es Spitzfindigkeiten nennen, aber das ist sozusagen die legale Frage.

404
00:24:51.400 --> 00:24:54.500
 Also wer wird jetzt von der EU da in die Pflicht genommen?

405
00:24:55.059 --> 00:24:58.200
 Aber für mich stellt sich wirklich die ethische Frage, ich nehme ein anderes Beispiel,

406
00:24:58.359 --> 00:25:02.259
 vielleicht ist das gerne auch Christiane, also du hast vorher auch,

407
00:25:02.460 --> 00:25:03.700
 ich glaube, du kennst das Beispiel auch.

408
00:25:04.960 --> 00:25:05.940
 Ja, wenn jetzt zum Beispiel

409
00:25:05.940 --> 00:25:08.619
 ein Chatbot-Anbieter schreibt,

410
00:25:09.539 --> 00:25:11.539
 the AI-Chatbot that really cares.

411
00:25:13.000 --> 00:25:15.380
 Ja, da würde Josef Weizenbaum,

412
00:25:15.660 --> 00:25:16.880
 Erfinder von ELISA,

413
00:25:17.279 --> 00:25:18.640
 der sein Leben lang dann

414
00:25:18.640 --> 00:25:20.319
 gegen solche Systeme gekämpft hat,

415
00:25:20.779 --> 00:25:21.299
 der sagt,

416
00:25:21.880 --> 00:25:22.759
 am Ende seines Lebens

417
00:25:22.759 --> 00:25:23.779
 wird er interviewt in Berlin

418
00:25:23.779 --> 00:25:24.759
 und dann sagt er,

419
00:25:24.759 --> 00:25:26.039
 wenn jetzt so ein Chatbot sagt,

420
00:25:26.500 --> 00:25:27.220
 ich verstehe,

421
00:25:27.819 --> 00:25:29.339
 dann ist das doch eigentlich eine Lüge,

422
00:25:30.019 --> 00:25:32.160
 denn es ist ja keiner da, der versteht.

423
00:25:33.160 --> 00:25:33.640
 So, und

424
00:25:33.640 --> 00:25:36.099
 ja, Lügen würden ja normalerweise

425
00:25:36.099 --> 00:25:37.900
 auch abgemahnt, also auch jetzt

426
00:25:37.900 --> 00:25:39.779
 als Werbung, also du darfst ja nicht

427
00:25:39.779 --> 00:25:42.059
 lügen in der Werbung, kannst abgemahnt werden.

428
00:25:42.460 --> 00:25:43.799
 Gut, das ist wieder eine legale Frage,

429
00:25:44.259 --> 00:25:46.059
 aber ich habe irgendwo das Gefühl, wenn ich lese der Chatbot, that really abgemahnt werden? Gut, das ist wieder eine legale Frage. Aber ich habe das Gefühl, wenn ich lese,

430
00:25:46.180 --> 00:25:47.460
 the chatbot that really cares,

431
00:25:48.400 --> 00:25:49.660
 da ist irgendwas schief.

432
00:25:49.779 --> 00:25:52.940
 Aber nicht nur legal, sondern eben ethisch.

433
00:25:54.059 --> 00:25:55.660
 Ja, es ist eine Simulation.

434
00:25:56.000 --> 00:25:58.400
 Es ist auch eine Simulation von Empathie.

435
00:25:58.920 --> 00:26:00.799
 Also der kümmert sich auch nicht wirklich.

436
00:26:02.359 --> 00:26:04.359
 Ich denke, man muss eben unterscheiden

437
00:26:04.359 --> 00:26:05.779
 zwischen Beziehung und Simulation.

438
00:26:06.079 --> 00:26:07.720
 Es wird hier eine Beziehung simuliert.

439
00:26:08.200 --> 00:26:11.720
 Ja, und es wird auch sozusagen Empathie simuliert.

440
00:26:12.099 --> 00:26:15.440
 Und wenn wir von Beziehung sprechen, was macht uns aus?

441
00:26:16.079 --> 00:26:17.579
 Intersubjektive Prozesse, ja.

442
00:26:17.920 --> 00:26:19.559
 Ich habe Bedeutung für den anderen.

443
00:26:19.700 --> 00:26:23.019
 Du veränderst dich jetzt vielleicht gerade ein Stück weit,

444
00:26:23.019 --> 00:26:29.240
 du merkst was im Körper, die Affekte verändern sich, weil wir miteinander in Kontakt treten.

445
00:26:29.240 --> 00:26:36.880
 Wir können Widersprüche dem anderen gegenüber aufzeigen, wir können uns begrenzen.

446
00:26:36.880 --> 00:26:39.059
 Das alles kann aber eine KI nicht.

447
00:26:39.059 --> 00:26:45.940
 Und ich denke, das ist der Unterschied eben zwischen auch Simulation von Psychotherapie, also Simulation

448
00:26:45.940 --> 00:26:47.140
 von Hilfe

449
00:26:47.140 --> 00:26:49.900
 im Unterschied zu dem,

450
00:26:50.400 --> 00:26:51.920
 was wirklich Psychotherapie

451
00:26:51.920 --> 00:26:53.799
 ausmacht, nämlich intersubjektive

452
00:26:53.799 --> 00:26:55.240
 Prozesse einzugehen,

453
00:26:55.819 --> 00:26:57.799
 Containment, also den anderen

454
00:26:57.799 --> 00:26:59.720
 Patienten zu halten, auch

455
00:26:59.720 --> 00:27:01.960
 jetzt von dem Fall mit dem

456
00:27:01.960 --> 00:27:03.880
 Mann mit dem schlimmen Liebeskummer

457
00:27:03.880 --> 00:27:08.420
 eben, ihn in seinen Gefühlen zu halten, die er selber noch nicht halten kann.

458
00:27:08.559 --> 00:27:10.680
 Das alles kann keine KI.

459
00:27:10.980 --> 00:27:14.460
 Und ich denke, genau das ist eben wichtig, sich klarzumachen.

460
00:27:14.660 --> 00:27:17.000
 Es ist aber nicht so einfach, sich das klarzumachen,

461
00:27:17.299 --> 00:27:20.160
 weil auch wenn jetzt der Paro im Raum wäre,

462
00:27:20.859 --> 00:27:24.519
 es geht weniger darum, dass wir uns dann klarmachen können,

463
00:27:24.519 --> 00:27:31.259
 okay, das ist nur ein Gerät oder eine Maschine, weil wir sofort in soziale Kategorien rutschen.

464
00:27:32.160 --> 00:27:45.099
 Dasselbe ist eben, wenn wir mit dem Chatbot sprechen, ich weiß nicht, wie es Ihnen ging, ich bedanke mich immer noch oder sage zum Chatbot, kannst du mir bitte die und die Quelle raussuchen.

465
00:27:45.339 --> 00:27:48.299
 Warum sage ich bitte? Es ist überhaupt kein Mensch.

466
00:27:48.680 --> 00:27:52.039
 Aber wir rutschen eben automatisch in die sozialen Kategorien.

467
00:27:52.579 --> 00:27:54.900
 Ja, und das ist dann eben auch nicht mehr so einfach

468
00:27:54.900 --> 00:27:57.359
 und auch nicht mehr so einfach zu trennen,

469
00:27:57.480 --> 00:28:00.019
 selbst wenn Anbieter eben schreiben

470
00:28:00.019 --> 00:28:04.240
 oder selbst wenn Anbieter diese Anthropomorphisierung nicht forcieren.

471
00:28:04.339 --> 00:28:08.420
 Das hat man eben auch bei den Therapie-Bots versucht,

472
00:28:08.960 --> 00:28:12.279
 bauen Menschen dennoch emotionale Bindungen auf,

473
00:28:12.359 --> 00:28:14.240
 auch wenn das gar nicht intendiert wird.

474
00:28:15.319 --> 00:28:17.339
 Ja, das war im Übrigen ein Punkt in diesem,

475
00:28:17.519 --> 00:28:19.940
 also es gab da einen Brief nach diesem Suizid in Belgien,

476
00:28:20.000 --> 00:28:23.700
 Entschuldigung, es war ein Punkt, es gab einen Brief nach diesem Suizid in Belgien,

477
00:28:24.539 --> 00:28:27.980
 es war zur gleichen Zeit, als diese große Koalition gesagt hat,

478
00:28:28.000 --> 00:28:31.039
 man soll die Chatbot-Weiterentwicklung oder KI-Entwicklung stoppen.

479
00:28:31.480 --> 00:28:33.460
 Und da gab es einen Brief against manipulative AI.

480
00:28:34.160 --> 00:28:36.420
 Und da greifen sie genau diesen Punkt auf und sagen,

481
00:28:36.539 --> 00:28:39.779
 auch wenn der Chatbot dir immer sagt, Vorsicht, ich bin ein KI-System,

482
00:28:40.660 --> 00:28:48.180
 können wir nicht umhin, sozusagen das, was man jetzt nach Weizenbaum den Elisa-Effekt nennt,

483
00:28:48.359 --> 00:28:51.140
 also sozusagen Menschen zu sehen, wo es eine Botschaft gibt.

484
00:28:51.920 --> 00:28:52.779
 Ist das so?

485
00:28:52.920 --> 00:29:00.059
 Ist das in der psychologischen Forschung bestätigt,

486
00:29:00.140 --> 00:29:02.140
 dass man da wirklich nicht umhinkommt?

487
00:29:03.839 --> 00:29:05.039
 Nicht unbedingt.

488
00:29:05.180 --> 00:29:08.740
 Wir schreiben halt auch den Maschinen gewisse Autoritäten zu.

489
00:29:08.859 --> 00:29:11.339
 Man kann natürlich auch sagen, warum vertraue ich das einer Maschine an,

490
00:29:11.359 --> 00:29:13.279
 obwohl ich genau weiß, es ist kein Gegenüber.

491
00:29:13.799 --> 00:29:18.059
 Warum vertraue ich denn der Maschine auch hinsichtlich ihrer Entscheidungen?

492
00:29:18.579 --> 00:29:21.819
 Und wir wissen, dass wir den Ratschlägen von Maschinen

493
00:29:21.819 --> 00:29:26.039
 eher trauen oder auch eher folgen als menschlichen Ratschlägen.

494
00:29:26.359 --> 00:29:28.099
 Das kann natürlich auch gefährlich sein.

495
00:29:28.180 --> 00:29:29.539
 Was hat das denn für Folgen?

496
00:29:30.500 --> 00:29:32.920
 Die eigene Blindheit beispielsweise.

497
00:29:33.599 --> 00:29:37.980
 Oder eben, dass ich auch verlerne, meiner eigenen Selbstwahrnehmung

498
00:29:37.980 --> 00:29:41.579
 oder meinen eigenen Entscheidungen zu trauen, wenn ich dann immer denke,

499
00:29:41.700 --> 00:30:05.019
 na ja, aber die Maschine, die ist doch jetzt so intelligent, obwohl man sich natürlich, das kannst du besser beantworten als ich, man sich fragen könnte, wo ist denn eigentlich der Unterschied zwischen der künstlichen Intelligenz oder der menschlichen Intelligenz. auf uns haben, ist unbestritten. Also mit all dem Positiven.

500
00:30:06.720 --> 00:30:10.779
 Ja, es hat ja auch positive Aspekte, wenn ich mit Chat-GBT rede,

501
00:30:10.859 --> 00:30:14.519
 wenn ich beispielsweise einsam bin, kann es Einsamkeit lindern.

502
00:30:15.059 --> 00:30:18.240
 Aber das passiert ja auch nur, indem es meine Einsamkeit lindert,

503
00:30:18.640 --> 00:30:21.319
 indem ich den Chatbot als Gegenüber wahrnehme.

504
00:30:21.799 --> 00:30:24.140
 Gleichzeitig kann er aber auch dazu führen,

505
00:30:24.140 --> 00:30:26.460
 dass ich eben, wie ich vorhin eingangs sagte,

506
00:30:26.839 --> 00:30:28.480
 kognitive Kontrolle abgebe

507
00:30:28.480 --> 00:30:30.019
 oder eben meine eigenen,

508
00:30:30.240 --> 00:30:31.980
 man nennt das ja auch Deskilling,

509
00:30:32.180 --> 00:30:33.680
 das haben wir eben gesagt.

510
00:30:35.059 --> 00:30:36.799
 Also gewisse Fähigkeiten zu verlieren.

511
00:30:38.539 --> 00:30:39.740
 Ja, ich habe jetzt gerade,

512
00:30:39.819 --> 00:30:40.640
 als ich dir zugehört habe,

513
00:30:40.720 --> 00:30:42.140
 eine Version wäre ja zu sagen,

514
00:30:42.220 --> 00:30:44.180
 der Chatbot, der ist so wie Sokrates.

515
00:30:45.039 --> 00:30:46.200
 Also es geht eigentlich um das Wissen, das ich selberört habe. Eine Version wäre ja zu sagen, der Chatbot, der ist so wie Sokrates. Also es geht

516
00:30:46.200 --> 00:30:48.220
 eigentlich um das Wissen, das ich selber schon habe.

517
00:30:49.299 --> 00:30:50.059
 Also so den

518
00:30:50.059 --> 00:30:52.380
 Chatbot wie so diese Hebammentechnik,

519
00:30:52.480 --> 00:30:53.759
 die berühmte von Sokrates,

520
00:30:54.339 --> 00:30:56.079
 zu sehen, wäre das

521
00:30:56.079 --> 00:30:58.160
 jetzt eine Analogie, um die Chatbots in der

522
00:30:58.160 --> 00:31:00.500
 Therapie zu retten?

523
00:31:01.259 --> 00:31:02.019
 Ich sage jetzt mal

524
00:31:02.019 --> 00:31:04.059
 zu retten, ja, sie werden ja eh verwendet und

525
00:31:04.059 --> 00:31:05.880
 das werden wir vielleicht auch nicht verhindern,

526
00:31:06.000 --> 00:31:06.680
 aber mich

527
00:31:06.680 --> 00:31:09.940
 interessiert die Bewertung natürlich dieser Sache,

528
00:31:10.500 --> 00:31:11.839
 dass sozusagen der Chatbot

529
00:31:11.839 --> 00:31:14.059
 dir dabei assistiert,

530
00:31:15.259 --> 00:31:15.400
 ja,

531
00:31:16.160 --> 00:31:18.119
 selber zu den Lösungen zu kommen

532
00:31:18.119 --> 00:31:19.859
 und dann ist es

533
00:31:19.859 --> 00:31:21.619
 nicht mehr ein Gegenüber,

534
00:31:21.859 --> 00:31:23.819
 sondern irgendwie ein System,

535
00:31:23.920 --> 00:31:25.880
 das dir halt kluge Fragen stellt und

536
00:31:25.880 --> 00:31:26.880
 kluge Impulse gibt.

537
00:31:29.059 --> 00:31:30.380
 Würdest du da mitgehen?

538
00:31:30.500 --> 00:31:32.039
 Also es ist jetzt ein ad hoc Gedanke, ich habe mir

539
00:31:32.039 --> 00:31:33.619
 das nie...

540
00:31:33.619 --> 00:31:35.819
 Nein, natürlich nicht, sonst wäre es ja langweilig.

541
00:31:35.940 --> 00:31:36.299
 Ja gut.

542
00:31:37.740 --> 00:31:39.700
 Also warum könnte man da nicht mitgehen?

543
00:31:39.819 --> 00:31:41.940
 Also diese Mäeutik, diese Hebammenkunst,

544
00:31:42.559 --> 00:31:44.019
 so wie wir das aus den

545
00:31:44.019 --> 00:31:45.259
 Quellen nachvollziehen können.

546
00:31:45.400 --> 00:31:49.359
 Gab es wohl diesen Sokrates, Klammer auf, wer das überhaupt war und wie viele,

547
00:31:50.259 --> 00:31:55.500
 ist noch bedingt nachvollziehbar, ist sehr prominent über die Dialoge von Platon überliefert worden,

548
00:31:55.500 --> 00:32:01.660
 dass wir wissen, dass es diese Figur gegeben hat, der an einem öffentlichen Platz mit Menschen Gespräche geführt hat,

549
00:32:02.019 --> 00:32:05.240
 so in einem quasi leiblichen Resonanzraum.

550
00:32:06.700 --> 00:32:10.359
 Sorry, dass ich es wieder so semi-juristisch sage, ich bin kein Jurist natürlich,

551
00:32:10.480 --> 00:32:12.259
 aber mit natürlichen Personen einfach.

552
00:32:12.500 --> 00:32:14.900
 Da sind leiblich Menschen da, das ist ein öffentlicher Raum,

553
00:32:14.980 --> 00:32:16.400
 da wird eine öffentliche Debatte geführt.

554
00:32:16.480 --> 00:32:20.640
 Das ist ein Prototyp eigentlich von einer Art demokratischen Diskussion oder Diskurs.

555
00:32:21.180 --> 00:32:24.480
 Das wird dann inszeniert in den platonischen Dialogen, dass es Zwiegespräche sind.

556
00:32:24.799 --> 00:32:25.759
 Meistens gibt es dann aber noch

557
00:32:25.759 --> 00:32:27.799
 eine dritte oder vierte Person, die an dem

558
00:32:27.799 --> 00:32:29.859
 Dialog, dem sogenannten Dialog, dann teilnimmt.

559
00:32:30.019 --> 00:32:31.799
 Also das ist dann insofern auch schon wieder ein bisschen

560
00:32:31.799 --> 00:32:33.900
 aus diesem Bild rausführend. Der Sokrates

561
00:32:33.900 --> 00:32:35.640
 ist also auch nicht der, der mit einer Person

562
00:32:35.640 --> 00:32:37.660
 isoliert irgendwie in der Höhle rumsitzt

563
00:32:37.660 --> 00:32:39.740
 und rumspricht, ganz im Gegenteil. Der versucht

564
00:32:39.740 --> 00:32:41.440
 die Leute ja aus der Höhle rauszuführen,

565
00:32:41.859 --> 00:32:43.700
 also in diesem berühmten Höhlengleichnis

566
00:32:43.700 --> 00:32:45.460
 und so weiter, wie das dann Platon auch beschreibt.

567
00:32:45.579 --> 00:32:50.980
 Also da gibt es viele komplexe Bilder, die auf einen sozial komplexeren Prozess einfach abzielen.

568
00:32:51.460 --> 00:32:53.740
 Als ich das jetzt so vorzustellen, ich sitze da zu Hause rum,

569
00:32:54.119 --> 00:32:59.240
 ich habe da mein Chatbot und vielleicht öffne ich mich dem Gerät sogar auf eine gewisse Weise stärker,

570
00:32:59.339 --> 00:33:03.819
 weil ich glauben könnte, das System ist objektiver, das wäre so ein Pro-Argument zu sagen,

571
00:33:04.220 --> 00:33:07.559
 das ist rational, Mathematik, Statistik und so weiter und so fort.

572
00:33:07.640 --> 00:33:10.400
 Deswegen vielleicht weniger Befindlichkeiten bei dem Gerät,

573
00:33:10.500 --> 00:33:11.380
 vielleicht hilft mir das mehr.

574
00:33:11.740 --> 00:33:13.700
 Das wäre so ein Pro-Argument, was man bringen könnte.

575
00:33:14.240 --> 00:33:16.279
 Aber das ist ja nicht das Bild vom Sokrates,

576
00:33:16.819 --> 00:33:18.779
 der mit den Menschen im Dialog ja quasi,

577
00:33:19.380 --> 00:33:22.220
 also wirklich mit einer leiblichen, auch emotionalen Resonanz arbeitet.

578
00:33:22.759 --> 00:33:25.920
 Und insofern würde ich das eigentlich jetzt auch mal

579
00:33:25.920 --> 00:33:27.759
 voll ablehnen. Und das andere, was du

580
00:33:27.759 --> 00:33:28.799
 vorhin gesagt hast, also

581
00:33:28.799 --> 00:33:31.019
 the bot that cares oder so,

582
00:33:32.079 --> 00:33:33.680
 das ist immer beim Thema Vertrauen,

583
00:33:33.779 --> 00:33:35.619
 Vertrauenswürdigkeit, das unterscheidet man ja

584
00:33:35.619 --> 00:33:37.480
 in der Philosophie und in der Ethik nicht ohne Grund.

585
00:33:38.200 --> 00:33:39.660
 Natürlich, jeder kann allem vertrauen.

586
00:33:39.799 --> 00:33:41.400
 Also ich kann irgendwelchen Pflegerobben vertrauen

587
00:33:41.400 --> 00:33:42.779
 und irgendwelchen Unternehmen fair,

588
00:33:43.359 --> 00:33:46.259
 aber die Frage ist, ist es vertrauenswürdig, trustworthy?

589
00:33:46.660 --> 00:33:50.539
 Also wie wir es auch bei den Ethikrichtlinien der EU zum Beispiel und der UNESCO haben.

590
00:33:50.859 --> 00:33:54.099
 Also jetzt sind wir wirklich weg vom Legal, jetzt sind wir wirklich bei den Ethics Guidelines.

591
00:33:54.579 --> 00:33:57.319
 Und da fragt man ja auch nicht ohne Grund nach Trustworthiness,

592
00:33:57.319 --> 00:34:00.599
 weil man versucht herauszufinden, nach welchen Kriterien ich sagen kann,

593
00:34:00.660 --> 00:34:03.740
 das ist vertrauenswürdig und vielleicht gibt es schon gute Gründe zu sagen,

594
00:34:03.819 --> 00:34:08.940
 Moment mal, wenn mir ein Unternehmen sagt, the bot oder the chatbot oder the AI that cares,

595
00:34:09.340 --> 00:34:12.440
 ist das vielleicht nicht unbedingt die vertrauenswürdigste Aussage,

596
00:34:12.559 --> 00:34:15.019
 weil das Unternehmen vielleicht andere Interessen hat,

597
00:34:15.159 --> 00:34:18.960
 als sich um mich und um meine möglichen Care-Bedürfnisse zu kümmern.

598
00:34:19.719 --> 00:34:21.019
 Und das wird dann natürlich der Punkt.

599
00:34:21.539 --> 00:34:25.119
 Gleichfalls kann man ethisch sagen, na gut, wir leben halt, freie Marktwirtschaft und so,

600
00:34:26.199 --> 00:34:28.000
 warum soll das jetzt schlecht sein? Aber es ist

601
00:34:28.000 --> 00:34:30.119
 natürlich dann schon die Herausforderung,

602
00:34:30.519 --> 00:34:32.039
 das auch kritisch zu hinterfragen, ob ich

603
00:34:32.039 --> 00:34:33.880
 auf die Werbung reinfalle. Letzter Punkt noch,

604
00:34:34.639 --> 00:34:36.000
 ich weiß nicht, wie sehr wir das Fass aufmachen

605
00:34:36.000 --> 00:34:37.619
 wollen, aber wenn du natürlich jetzt ja ethisch

606
00:34:37.619 --> 00:34:39.860
 nochmal reinhebeln willst, kann man sich das schon nochmal

607
00:34:39.860 --> 00:34:41.900
 anschauen, was in den letzten 5, 6 Jahren passiert ist,

608
00:34:42.340 --> 00:34:44.119
 wo es um die Verhandlung von Ethics Guidelines

609
00:34:44.119 --> 00:34:45.699
 im Zusammenhang mit AI ging.

610
00:34:46.199 --> 00:34:47.960
 Und da haben natürlich große Player von Google

611
00:34:47.960 --> 00:34:49.539
 über IBM bis zu anderen

612
00:34:49.539 --> 00:34:52.440
 versucht sehr stark quasi als Industrieplayer

613
00:34:52.440 --> 00:34:54.380
 gegen die Regulierung zu hebeln.

614
00:34:54.460 --> 00:34:55.920
 Das heißt zu sagen, Moment, wir brauchen doch

615
00:34:55.920 --> 00:34:58.019
 gar keine KI-Regulierung, aber wir brauchen das doch

616
00:34:58.019 --> 00:34:59.559
 gar nicht bei der EU, wir brauchen doch die

617
00:34:59.559 --> 00:35:01.900
 AI-Ethics überhaupt nicht, die haben wir doch

618
00:35:01.900 --> 00:35:03.980
 selber schon. Und das ist natürlich

619
00:35:03.980 --> 00:35:06.460
 auch eine Sache, ist das vertrauenswürdig wenn der industrie die

620
00:35:06.460 --> 00:35:10.380
 cutting edge mit diesen halt ki system die wir jetzt momentan haben steil geht

621
00:35:10.380 --> 00:35:14.320
 wenn die sagen und mit ethik die machen wir ist natürlich nur berechtigt wenn

622
00:35:14.320 --> 00:35:18.900
 man dann als zivilgesellschaft aua schreit und sagt momentan mal da reden

623
00:35:18.900 --> 00:35:23.940
 wir noch mal drüber vielen dank du wolltest glaube ich vorher zu dem thema

624
00:35:23.940 --> 00:35:26.539
 das öffnen oder da habe ich dich das Mikrofon neben mir gesehen.

625
00:35:26.539 --> 00:35:33.599
 Ja, ja, ja. Also Selbstöffnung. Wir wissen, dass Menschen sich Maschinen, es ist doch immer Maschinen, gegenüber schneller selbst öffnen.

626
00:35:34.059 --> 00:35:41.400
 Das ist so und das wird wahrscheinlich so sein, weil Menschen sich eben Angst vor Stigmatisierung haben

627
00:35:41.400 --> 00:35:48.280
 und sich eben ohne Angst sozial bewertet zu werden der

628
00:35:48.280 --> 00:35:53.980
 maschine schneller öffnen ja das kann natürlich auch wieder was positives sein ja dass man sagt

629
00:35:53.980 --> 00:36:00.000
 ja gut also da wird selbst öffnung geübt ja und das habe ich schon früher ich habe schon vor 20

630
00:36:00.000 --> 00:36:04.420
 jahren online beratung gemacht habe immer die sachen auch selber dann außen wenn sie auf den

631
00:36:04.420 --> 00:36:09.019
 markt kommen und habe auch gemerkt dass dann mir die klienten gesagt habe freie ich merke jetzt habe

632
00:36:09.019 --> 00:36:14.280
 ich mir also schwer und traumatische narrative jetzt habe ich mich getraut ihnen das hier zu

633
00:36:14.280 --> 00:36:19.260
 schreiben ich glaube jetzt kann ich mich auch trauen dass eine menschen gegenüber zu sagen

634
00:36:19.260 --> 00:36:25.239
 in der realen psychotherapie praxis und so könnte man natürlich das mit der Selbstöffnung vor der Maschine auch sehen.

635
00:36:25.619 --> 00:36:30.519
 Dass sozusagen die Selbstöffnung dann erleichtert ist,

636
00:36:30.739 --> 00:36:35.800
 wenn Menschen ihre Probleme einem Menschen erzählen.

637
00:36:36.000 --> 00:36:38.940
 Auch das muss ja jetzt nicht nur negativ sein.

638
00:36:39.519 --> 00:36:42.800
 Was ist denn jetzt für dich, ganz plakativ gesprochen, der Unterschied,

639
00:36:43.440 --> 00:36:46.019
 wenn du dahinter saßt oder sitzt und

640
00:36:46.019 --> 00:36:48.019
 antwortest oder wenn das jetzt

641
00:36:48.019 --> 00:36:49.619
 ein Bot ist und selbst

642
00:36:49.619 --> 00:36:51.880
 wir können den Fall ja zuspitzen, wenn er

643
00:36:51.880 --> 00:36:54.059
 die gleichen Antworten gibt. Gibt es

644
00:36:54.059 --> 00:36:55.420
 dann noch einen wesentlichen Unterschied?

645
00:36:56.840 --> 00:36:57.840
 Ja, da gibt es natürlich

646
00:36:57.840 --> 00:36:59.900
 einen wesentlichen Unterschied, weil nämlich, wenn

647
00:36:59.900 --> 00:37:01.880
 die KI antwortet, weder

648
00:37:01.880 --> 00:37:04.119
 ein Körper noch ein Affekt

649
00:37:04.119 --> 00:37:05.940
 beteiligt ist auf der Gegenseite.

650
00:37:06.840 --> 00:37:09.960
 Und ich denke, da liegen ganz deutlich die Grenzen.

651
00:37:10.139 --> 00:37:13.659
 Wie wir eben gesagt haben, die KI kann Reflexionstool sein,

652
00:37:14.000 --> 00:37:18.199
 die KI kann Selbstmanagement, sie kann Trainingsfeld sein.

653
00:37:18.199 --> 00:37:22.199
 Aber was sie eben nicht kann, ist Beziehungen anbieten,

654
00:37:22.320 --> 00:37:24.619
 eine korrigierende Beziehungserfahrung anbieten.

655
00:37:24.719 --> 00:37:28.539
 Das ist ja das auch immer, was wir in der Psychotherapie sagen, was gebraucht wird.

656
00:37:28.920 --> 00:37:33.780
 Also was prägt uns unsere frühkindlichen ersten Erfahrungen zur Bezugsperson?

657
00:37:34.460 --> 00:37:38.780
 Und Psychotherapie macht eben das aus, dass diese frühen, oft dysfunktionalen,

658
00:37:39.619 --> 00:37:47.019
 krankmachenden Beziehungserfahrungen im Kontakt mit dem therapeuten eben korrigiert werden andere

659
00:37:47.019 --> 00:37:52.360
 erfahrungen gemacht werden wie soll das ein bot können ja der kann hat weder ein kontext noch hat

660
00:37:52.360 --> 00:38:01.300
 er meinen biografischen hintergrund noch noch spürt er das richtige timing beispielsweise für

661
00:38:01.300 --> 00:38:05.519
 für interventionen oder deutungen also das alles ist ein

662
00:38:05.519 --> 00:38:10.559
 unterschied wenn du fragst ja selbst bei gleichen antworten

663
00:38:10.559 --> 00:38:14.280
 wobei ich denke der bot kann gar nicht die gleichen antworten geben weil eben

664
00:38:14.280 --> 00:38:18.280
 der kontext also kontextsensitivität fehlt und das weiß ich eben aufgeführt

665
00:38:18.280 --> 00:38:22.820
 wird es kaum identische antworten geben können

666
00:38:23.239 --> 00:38:26.019
 ja genau wenn man könnte sonst sozusagen, wenn man

667
00:38:26.019 --> 00:38:27.960
 jetzt natürlich so eine Firma vertritt, könnte man

668
00:38:27.960 --> 00:38:30.460
 sagen, naja, wenn die Beziehungssimulation

669
00:38:30.460 --> 00:38:32.199
 ausreicht, um die Person

670
00:38:32.199 --> 00:38:32.860
 zu heilen,

671
00:38:33.920 --> 00:38:35.880
 dann ist es ja in Ordnung, dass es keine

672
00:38:35.880 --> 00:38:38.079
 echte Beziehung gibt, denn Ziel ist

673
00:38:38.079 --> 00:38:39.340
 ja nicht die Beziehung, sondern

674
00:38:39.340 --> 00:38:41.860
 die Heilung, jetzt plakativ

675
00:38:41.860 --> 00:38:42.099
 gesagt.

676
00:38:43.400 --> 00:38:46.179
 Aber wenn du sagstst es ist sowieso

677
00:38:46.179 --> 00:38:49.480
 nicht so sophisticated und du glaubst es wird da auch nicht hinkommen in den

678
00:38:49.480 --> 00:38:53.079
 nächsten zehn jahren nicht wir haben ja ein buch geschrieben mit meinen beiden

679
00:38:53.079 --> 00:38:57.219
 koalitions zusammen und da haben wir szenarien eben entworfen vier stück in

680
00:38:57.219 --> 00:39:00.280
 wiefern könnte denn keine rolle spielen in der psychotherapie auch in den

681
00:39:00.280 --> 00:39:07.440
 nächsten zehn jahren und wir glauben dass eher, also keinesfalls zu einem Ersatz von Psychotherapeuten kommt,

682
00:39:07.780 --> 00:39:13.280
 sondern eher zu hybriden Formen, also dass die KI so etwas wie ein Co-Therapeut wird,

683
00:39:13.280 --> 00:39:17.880
 dass die KI, da gibt es ja schöne Beispiele, das habe ich auch dir im Vorgespräch erzählt,

684
00:39:18.159 --> 00:39:24.280
 dass die KI schon auch in Teilen besser ist als wir Psychotherapeuten beispielsweise können über Sprachmuster,

685
00:39:23.239 --> 00:39:23.539
 in Teilen besser ist als wir Psychotherapeuten beispielsweise,

686
00:39:27.639 --> 00:39:27.719
 können über Sprachmuster, was Leute in WhatsApp reinsprechen,

687
00:39:32.500 --> 00:39:32.760
 wenn wir das analysieren, merken wir viel früher kleinste Veränderungen,

688
00:39:35.119 --> 00:39:35.420
 bevor ich das als Psychotherapeutin wahrnehmen könnte,

689
00:39:38.239 --> 00:39:38.920
 zum Beispiel in Richtung Ankündigung von Krisen.

690
00:39:41.159 --> 00:39:41.440
 Das ist natürlich ein irrer Vorteil.

691
00:39:46.119 --> 00:39:48.139
 Wir können hier eine präzisere Psychotherapie machen. Es gibt auch sozusagen Tools, die

692
00:39:48.139 --> 00:39:50.619
 schauen im Sinne der personalisierten

693
00:39:50.619 --> 00:39:51.579
 Psychotherapie

694
00:39:51.579 --> 00:39:53.739
 vor Therapiebeginn, welche

695
00:39:53.739 --> 00:39:55.880
 Psychotherapieform ist denn für welchen

696
00:39:55.880 --> 00:39:57.639
 Patienten die geeignetste.

697
00:39:58.320 --> 00:40:00.179
 Und da gibt es hochkomplexe Modelle,

698
00:40:00.380 --> 00:40:02.000
 die das berechnen, welche

699
00:40:02.000 --> 00:40:03.760
 Therapieform denn jetzt für welchen

700
00:40:03.760 --> 00:40:06.079
 Patienten am erfolgsversprechendsten ist.

701
00:40:06.579 --> 00:40:09.840
 Oder andere Beispiele, Just-in-Time-Interventionen.

702
00:40:10.320 --> 00:40:17.820
 Das heißt, in dem Moment, wir hatten auch ein Projekt mit einem Roboter für ältere Menschen,

703
00:40:18.300 --> 00:40:21.880
 im Sinne der Unterstützung des gesunden Alterns.

704
00:40:21.880 --> 00:40:25.940
 Und der Roboter war in deren Alltag und hat halt irgendwie auch

705
00:40:25.940 --> 00:40:30.000
 mit Mimikanalyse, Stimmanalyse herausgefunden,

706
00:40:30.280 --> 00:40:31.719
 also es war jetzt erstmal so ein Prototyp,

707
00:40:31.760 --> 00:40:33.159
 wie geht es denn der betroffenen Person?

708
00:40:33.460 --> 00:40:35.380
 Und wenn die gemerkt haben, die Person ist traurig,

709
00:40:35.380 --> 00:40:37.760
 wurde vielleicht ein Vorschlag gemacht,

710
00:40:37.900 --> 00:40:40.659
 spazieren zu gehen oder eine Freundin anzurufen.

711
00:40:40.780 --> 00:40:43.500
 Das heißt, es wurden Interventionen in dem Moment gesetzt,

712
00:40:43.860 --> 00:40:46.400
 wenn die Person das brauchte, kann ich als Therapeut überhaupt

713
00:40:46.400 --> 00:40:48.059
 nicht leisten. Oder diese

714
00:40:48.059 --> 00:40:50.380
 Just-in-Time-Interventionen, wie die heißen,

715
00:40:50.639 --> 00:40:52.159
 wenn jemand eine Panikattacke hat.

716
00:40:52.440 --> 00:40:54.380
 Über Biomarker wird das festgestellt

717
00:40:54.380 --> 00:40:56.480
 und dass dann sozusagen eine Atemübung

718
00:40:56.480 --> 00:40:58.119
 angeleitet wird. Also es gibt viele

719
00:40:58.119 --> 00:41:00.460
 Möglichkeiten, wie Psychotherapie unterstützt

720
00:41:00.460 --> 00:41:02.119
 werden kann. Es gibt jetzt auch,

721
00:41:02.119 --> 00:41:04.119
 habe ich gestern Abend noch einen Podcast gehört,

722
00:41:04.500 --> 00:41:05.860
 eine Firma, die beispielsweise

723
00:41:05.860 --> 00:41:12.559
 Psychotherapeuten auch entlasten will durch KI-Tools, indem automatische Sitzungsprotokolle erstellt werden.

724
00:41:13.340 --> 00:41:19.860
 Patienten geben dann natürlich auch ihre Einwilligung und dann werden die Therapiesitzungen aufgezeichnet, damit die eben auch

725
00:41:19.860 --> 00:41:27.400
 mehr Zeit haben für die Behandlungen im engeren Sinne. Also es gibt ein Riesenspektrum. Wir glauben, dass es so etwas ist wie in Zukunft,

726
00:41:27.639 --> 00:41:30.380
 dass die KI als Co-Therapeut eine Rolle spielen wird,

727
00:41:30.619 --> 00:41:33.760
 die aber immer menschlich supervidiert ist,

728
00:41:33.980 --> 00:41:37.639
 weil eben Maschinen weder klinische Urteilskraft besitzen,

729
00:41:38.119 --> 00:41:42.179
 noch eben in dem Sinne, wie ich das eben kurz versucht habe zu beschreiben,

730
00:41:42.599 --> 00:41:49.860
 Interventionen setzen können, die das komplexe psychodynamische Geschehen,

731
00:41:49.960 --> 00:41:51.840
 was uns Personen eben auch ausmacht,

732
00:41:52.139 --> 00:41:53.139
 berücksichtigen könnten.

733
00:41:55.739 --> 00:41:57.679
 Ich habe eine Frage zu,

734
00:41:57.780 --> 00:41:59.039
 du hast jetzt Roboter angesprochen,

735
00:41:59.159 --> 00:42:01.420
 du hast ja auch ein Buch geschrieben zu Robotern.

736
00:42:02.639 --> 00:42:04.800
 Eine Frage, die mich beschäftigt,

737
00:42:04.960 --> 00:42:06.840
 wie ist sozusagen der, vielleicht weiß ich nicht, ob, die mich beschäftigt. Wie ist sozusagen der,

738
00:42:07.340 --> 00:42:08.460
 vielleicht, ich weiß nicht,

739
00:42:08.500 --> 00:42:09.380
 ob du dich damit beschäftigt hast,

740
00:42:09.460 --> 00:42:10.260
 aber das müssen wir dann sagen,

741
00:42:10.579 --> 00:42:11.320
 wie ist der Unterschied,

742
00:42:11.460 --> 00:42:13.420
 wenn ich jetzt mit einem Chatbot interagiere

743
00:42:13.420 --> 00:42:16.619
 und wenn ich mit einem Roboter interagiere?

744
00:42:16.880 --> 00:42:18.440
 Also ich habe manchmal das Gefühl,

745
00:42:18.519 --> 00:42:20.300
 der Chatbot funktioniert für mich

746
00:42:20.300 --> 00:42:21.860
 besser als Simulation,

747
00:42:22.239 --> 00:42:24.360
 jedenfalls in Anbetracht der aktuellen Roboter,

748
00:42:24.880 --> 00:42:26.159
 weil sozusagen die Roboter

749
00:42:26.159 --> 00:42:27.860
 dann immer diese Dissonanz haben, dass es

750
00:42:27.860 --> 00:42:29.739
 eben doch noch der Roboter ist. Beim

751
00:42:29.739 --> 00:42:31.960
 Chatbot ist es, als würde ich mit einem anderen Menschen,

752
00:42:32.139 --> 00:42:33.900
 der halt an seinem iPhone sitzt,

753
00:42:34.579 --> 00:42:35.780
 interagieren.

754
00:42:36.199 --> 00:42:37.820
 Ist das ein Thema oder

755
00:42:37.820 --> 00:42:39.940
 was sind überhaupt die wesentlichen Unterschiede jetzt?

756
00:42:40.639 --> 00:42:41.760
 Mit Software, du hast

757
00:42:41.760 --> 00:42:43.760
 vorhin die Analogie der Software und

758
00:42:43.760 --> 00:42:45.440
 Hardware gemacht. Genau, also wenn es die Hardware auch gibt. Also natürlich Analogie der Software und Hardware gemacht.

759
00:42:46.920 --> 00:42:47.619
 Also wenn es die Hardware auch gibt.

760
00:42:49.619 --> 00:42:49.739
 Genau, also natürlich braucht ein Chatbot auch Hardware,

761
00:42:53.400 --> 00:42:53.539
 aber wenn ich jetzt einen Roboter habe, habe ich natürlich eine besondere Art von Hardware.

762
00:42:55.280 --> 00:42:59.239
 Also man würde dann eher von Aktuatoren reden, das heißt man hätte irgendwo, wenn es ein humanoides oder androides System wäre,

763
00:42:59.639 --> 00:43:02.500
 was nach Beinen aussieht und nach menschlichem Oberkörper und so weiter.

764
00:43:03.480 --> 00:43:05.519
 Da kann man jetzt riesig eintauchen in das Feld.

765
00:43:05.619 --> 00:43:08.820
 Im Wesentlichen kann man jetzt verschiedene Sachen dazu skizzieren.

766
00:43:08.920 --> 00:43:10.880
 Ich möchte da mal wenige herausheben.

767
00:43:10.980 --> 00:43:13.079
 Das eine ist schlicht und einfach der sogenannte Turing-Test.

768
00:43:13.679 --> 00:43:16.519
 Das ist das, was Turing ja selber in seinem Test als Szenario entworfen hat.

769
00:43:16.599 --> 00:43:19.840
 Das heißt, man hat einfach Zettel, auf denen steht was drauf und die werden ausgetauscht.

770
00:43:20.320 --> 00:43:22.380
 Und dann soll ich erkennen, dass was als Antwort zurückkommt,

771
00:43:22.440 --> 00:43:23.480
 ist es eine Maschine oder ein Mensch.

772
00:43:23.480 --> 00:43:28.079
 Das ist das klassische Turing-Test-Szenario, was was da gemacht wird und das macht auch die Qualität vom Turing aus,

773
00:43:28.159 --> 00:43:32.440
 dass er gesagt hat, er reduziert das methodisch auf das, wovon er annimmt,

774
00:43:32.539 --> 00:43:36.239
 dass das vielleicht Computer, also Turing-Maschinen, Computer am besten können.

775
00:43:36.300 --> 00:43:42.099
 Das hat er 1950 dann formuliert in einem seiner berühmten Aufsätze, das ist auch schon relativ alt, das Szenario.

776
00:43:42.820 --> 00:43:47.579
 Und das ist genau genommen, ist es gar nicht zu sagen, dass Menschen jetzt nur in Zeichenverarbeitung,

777
00:43:47.659 --> 00:43:49.260
 sprich Informationsverarbeitung wären,

778
00:43:49.320 --> 00:43:53.219
 sondern er hat gesagt, naja, ich reduziere das jetzt methodisch mal darauf,

779
00:43:53.320 --> 00:43:57.780
 dass ich als Wissenschaftler, als rationaler Mensch, Testkriterien habe.

780
00:43:58.340 --> 00:44:01.000
 Das kann man natürlich argumentieren, ein Chatbot ist denkbar nah dran.

781
00:44:01.579 --> 00:44:06.239
 Das heißt, wenn ich mit dem jetzt wirklich über Zeichensprache, über Textschnipsel

782
00:44:06.239 --> 00:44:07.639
 interagiere, da werden nur solche Zettel

783
00:44:07.639 --> 00:44:09.739
 sozusagen hin und her geschickt und das Ganze

784
00:44:09.739 --> 00:44:11.440
 ist kulturtechnisch natürlich vorbereitet.

785
00:44:11.599 --> 00:44:13.679
 Vorhin waren ja schon die Blogs und Internetforen

786
00:44:13.679 --> 00:44:16.079
 und so weiter im Gespräch.

787
00:44:16.199 --> 00:44:17.420
 Also das ist ja auch jetzt nichts Neues.

788
00:44:17.500 --> 00:44:19.579
 Das haben wir seit Mitte der 90er Jahre spätestens.

789
00:44:19.719 --> 00:44:21.579
 Windows 95, Multimeter,

790
00:44:22.059 --> 00:44:23.920
 Internet, die ersten sozialen Medien gab es ja

791
00:44:23.920 --> 00:44:26.239
 damals auch schon. Die haben sich noch nicht durchgesetzt. Das hat dann noch ein bisschen

792
00:44:26.239 --> 00:44:27.460
 gedauert bis zu den Smartphones

793
00:44:27.460 --> 00:44:30.440
 in den frühen Nullerjahren dann. Aber jedenfalls,

794
00:44:30.599 --> 00:44:32.039
 das ist kulturtechnisch ja nichts Neues.

795
00:44:32.159 --> 00:44:34.199
 Daran sind wir eh gewöhnt. Und jetzt muss quasi

796
00:44:34.199 --> 00:44:36.039
 das, was da von Menschen eingetippt wurde, nur noch durch

797
00:44:36.039 --> 00:44:37.480
 eine entsprechende AI ersetzt werden.

798
00:44:38.599 --> 00:44:40.360
 Also insofern ist es natürlich zu erwarten,

799
00:44:40.460 --> 00:44:42.199
 dass es hier höhere Akzeptanzmuster gibt

800
00:44:42.199 --> 00:44:44.400
 und dass es natürlich auch niederschwelliger

801
00:44:44.400 --> 00:44:45.039
 ist.

802
00:44:47.699 --> 00:44:48.599
 Bei Robotern kann man jetzt wahnsinnig viel dazu sagen.

803
00:44:50.840 --> 00:44:50.960
 Vielleicht mal mit dem Uncanny Valley-Effekt probiert,

804
00:44:54.280 --> 00:44:54.420
 diesem von Mori 1970 beschriebenen Effekt,

805
00:44:57.539 --> 00:44:57.599
 also vier Jahre nach Elisa, also dem Joseph Weizenbaum,

806
00:44:59.980 --> 00:45:00.400
 das war 1966, soweit ich weiß.

807
00:45:02.699 --> 00:45:02.739
 Und Mori hat im Endeffekt, also ein japanischer Wissenschaftler,

808
00:45:06.400 --> 00:45:08.699
 dann auch beschrieben, hat bei Humanoiden oder bei Androiden-Robotern dieses Thema, dass man damit eine sehr starke Suggestion aufbaut.

809
00:45:08.780 --> 00:45:10.420
 Also man sieht die Maschine, boah, das ist ein Mensch,

810
00:45:10.659 --> 00:45:12.559
 wow, dann geht natürlich das ganze Ballett los

811
00:45:12.559 --> 00:45:14.360
 mit Empathie, mit Spiegelneuronen,

812
00:45:14.400 --> 00:45:16.320
 wie man heute weiß und so weiter und dann

813
00:45:16.320 --> 00:45:18.159
 merkt man, da ist jetzt irgendwas creepy. Die Maschine

814
00:45:18.159 --> 00:45:20.420
 bewegt sich doch nicht ganz so wie ein echter Mensch,

815
00:45:20.500 --> 00:45:22.519
 so ein bisschen dieser Zombie-Effekt und aufgrund

816
00:45:22.519 --> 00:45:24.420
 dieser gesteigerten Erwartung, die man

817
00:45:24.420 --> 00:45:26.400
 dann hat, fällt man dann in so ein Erwartungsloch

818
00:45:26.400 --> 00:45:28.039
 rein, also dieses Valley, das ist

819
00:45:28.039 --> 00:45:29.800
 dann quasi auf so einem Grafen, so drückt

820
00:45:29.800 --> 00:45:31.619
 sich das dann so aus, dann ist das eher so

821
00:45:31.619 --> 00:45:33.360
 uncanny oder so creepy irgendwie,

822
00:45:33.480 --> 00:45:35.360
 was ist das jetzt hier? Gruselig.

823
00:45:35.780 --> 00:45:36.920
 Gruselig, genau, in dem Sinne.

824
00:45:37.920 --> 00:45:39.780
 Und darum kann man nun sehr viel natürlich

825
00:45:39.780 --> 00:45:41.579
 sagen, man kann jetzt argumentieren, naja,

826
00:45:41.739 --> 00:45:43.840
 vielleicht geht dort ein riesiges Feld auf,

827
00:45:43.940 --> 00:45:50.920
 vielleicht sind wir in zehn Jahren soweit, dass man versuchen kann, körperliche Mimik, gestische Empathie mit Androiden zu simulieren.

828
00:45:52.480 --> 00:45:56.420
 Ich habe mich ja reingeatmet, das sollte man als Sänger nicht machen, aber das darf ich mir auch mal leisten.

829
00:46:01.820 --> 00:46:02.619
 Da fühle ich mich auch creepy dabei.

830
00:46:07.400 --> 00:46:07.500
 Ich muss gerade an Blade Runner denken, an diesen Film Scott,

831
00:46:10.900 --> 00:46:11.659
 Ridley Scott 1982, gab da eine Fortsetzung auch vor neun Jahren.

832
00:46:13.619 --> 00:46:13.760
 Blade Runner deshalb, weil da passiert etwas Spannendes,

833
00:46:16.579 --> 00:46:17.019
 da sind es Replikanten, die sind biotechnologisch erzeugt.

834
00:46:18.860 --> 00:46:18.940
 Also die meisten Androiden in der Science Fiction,

835
00:46:21.119 --> 00:46:24.579
 wenn ich da mal hinspringen darf, so Terminator und so weiter, sind irgendwie Roboter mit so einem Maschinenskelett

836
00:46:24.579 --> 00:46:25.960
 und mit einem menschlichen Überzug.

837
00:46:26.059 --> 00:46:28.119
 Aber was ist denn, wenn wir in den nächsten Jahrzehnten

838
00:46:28.119 --> 00:46:30.260
 Durchbrüche in der Biotechnologie haben?

839
00:46:30.840 --> 00:46:32.400
 Stichpunkt Bio-

840
00:46:32.400 --> 00:46:33.800
 Robotics und so weiter, wo

841
00:46:33.800 --> 00:46:36.139
 na gut, dass wir es auf menschliche Maße

842
00:46:36.139 --> 00:46:38.000
 skalieren, das wird noch sehr, sehr lange dauern, aber

843
00:46:38.000 --> 00:46:40.099
 ich will nur sagen, da gibt es eben auch andere Entwicklungen,

844
00:46:40.199 --> 00:46:42.019
 die offen stünden und vielleicht, wenn wir

845
00:46:42.019 --> 00:46:43.880
 irgendwann organische Maschinen dann haben,

846
00:46:44.780 --> 00:46:47.679
 ja, vielleicht ist das dann tatsächlich nicht mehr so weit weg mit der Empathie,

847
00:46:47.760 --> 00:46:53.340
 wenn es dann auch so eine leibliche Verkörperung, wir sagen im Deutschen auch so eine Einverleibung dann quasi gibt,

848
00:46:53.780 --> 00:46:56.539
 wo so eine einfache Software-Hardware-Trennung dann gar nicht mehr hinhaut.

849
00:46:57.159 --> 00:47:00.760
 Das ist jetzt ein bisschen Spekulation, aber diese Entwicklungslinien sind ja momentan offen.

850
00:47:00.960 --> 00:47:06.500
 Also das ist ja nicht auszuschließen und insofern ist das eine Riesenfrage,

851
00:47:06.639 --> 00:47:07.440
 die du da stellst.

852
00:47:08.019 --> 00:47:10.219
 Ich würde mal behaupten, die Maschinen, die wir jetzt momentan

853
00:47:10.219 --> 00:47:12.019
 haben, das sind Projektionsflächen,

854
00:47:12.599 --> 00:47:13.920
 natürlich, die laden zur

855
00:47:13.920 --> 00:47:16.179
 Vermenschlichung ein. Und ich glaube

856
00:47:16.179 --> 00:47:17.860
 einfach die organische Körperlichkeit,

857
00:47:18.139 --> 00:47:20.159
 also auch dieses neurologische

858
00:47:20.159 --> 00:47:22.219
 wie sich Empathie, das drückt sich am ganzen Körper

859
00:47:22.219 --> 00:47:24.119
 aus. Das ist ja nicht ein Gehirn, wo sich

860
00:47:24.119 --> 00:47:26.539
 irgendwie ein paar Synapsen irgendwie verschalten. Das ist ja nicht ein Gehirn, wo sich ein paar Synapsen verschalten.

861
00:47:26.639 --> 00:47:29.519
 Das ist ja der ganze Körper, der da somatisch, psychosomatisch arbeitet.

862
00:47:29.679 --> 00:47:31.239
 Bitte gerne um Ergänzung vom Profi auch.

863
00:47:31.940 --> 00:47:35.360
 Aber das ist ja allein, wenn ich Sensormotorik lerne als Kleinkind,

864
00:47:35.420 --> 00:47:36.920
 wenn ich lerne, auf zwei Beinen zu gehen,

865
00:47:37.400 --> 00:47:38.960
 das geht durch den ganzen Körper durch.

866
00:47:39.039 --> 00:47:41.699
 Das ist ja so ein Erfolgserlebnis,

867
00:47:41.820 --> 00:47:43.760
 dass nach so vielen Monaten und Jahren harter Arbeit

868
00:47:43.760 --> 00:47:45.360
 endlich mal auf zwei Beinen stehen zu können.

869
00:47:45.659 --> 00:47:46.960
 Als Erwachsene vergessen wir das.

870
00:47:47.519 --> 00:47:50.079
 Aber das ist neurologisch eigentlich eine der Dinge,

871
00:47:50.079 --> 00:47:51.320
 die wir im Leben dann mitnehmen.

872
00:47:51.679 --> 00:47:54.000
 Plus das ganze emotionale Lernen und so weiter.

873
00:47:54.199 --> 00:47:55.599
 Wie geht man mit den Impulsen um,

874
00:47:55.780 --> 00:47:57.059
 die man dann selber auch hat und so.

875
00:47:57.619 --> 00:47:59.659
 Also da passiert im ganzen Körper wahnsinnig viel.

876
00:47:59.980 --> 00:48:01.420
 Und ich kann einfach nicht erkennen,

877
00:48:01.599 --> 00:48:03.260
 dass bei den humanoiden Systemen,

878
00:48:03.300 --> 00:48:04.500
 so wie wir die momentan haben,

879
00:48:05.599 --> 00:48:07.780
 wie die momentan auch sehr bildgewaltig durch die Medien gehen,

880
00:48:08.360 --> 00:48:12.039
 dass man das da über eine Simulation hinaus realisieren könnte.

881
00:48:14.340 --> 00:48:19.920
 Ich habe noch eine letzte Frage und dann gerne auch Anmerkungen und Fragen vom Publikum.

882
00:48:22.619 --> 00:48:25.000
 Es zieht auch noch ein bisschen auf Roboter ab.

883
00:48:25.739 --> 00:48:29.900
 Von Yuval Harari, dem Autor von Sapiens, den wahrscheinlich auch viele kennen,

884
00:48:30.300 --> 00:48:32.639
 gibt es ja auch einige Überlegungen zu KI.

885
00:48:33.699 --> 00:48:36.619
 Er spricht von Alien Intelligence.

886
00:48:36.980 --> 00:48:40.260
 Er sagt, es ist eine Alien Intelligence, wir wissen nicht, was das ist.

887
00:48:41.320 --> 00:48:44.800
 In einem Talk sagt er, wir haben uns immer vorgestellt,

888
00:48:44.800 --> 00:48:45.139
 ist und in einem Talk sagt er, wir haben uns immer vorgestellt,

889
00:48:51.699 --> 00:48:55.800
 dass die KI uns erst gefährlich wird, wenn sie eben so in Terminator-Form auftaucht und eben Türen öffnen kann und durch die Felder rennen und auf uns schießen.

890
00:48:56.780 --> 00:48:59.940
 Und er sagt, die KI hat aber das,

891
00:49:00.039 --> 00:49:02.940
 it has hacked the operating system of human civilization.

892
00:49:03.659 --> 00:49:08.300
 Also es hat sozusagen das Betriebssystem aller menschlichen Zivilisationen gehackt.

893
00:49:08.300 --> 00:49:13.800
 Und das ist die Sprache, weil alle Propheten und Revolutionäre und so weiter,

894
00:49:13.900 --> 00:49:16.239
 die haben Dinge immer erreicht nur durch Sprache.

895
00:49:16.920 --> 00:49:20.139
 Und wenn nun die KI eben unsere Sprache spricht, sagt er,

896
00:49:20.619 --> 00:49:23.519
 It can get a human to pull the trigger if it needs to.

897
00:49:23.519 --> 00:49:24.139
 it can get a human to pull the trigger if it needs to.

898
00:49:26.659 --> 00:49:26.780
 Also kann sie einen Menschen dazu bringen,

899
00:49:31.280 --> 00:49:32.300
 dass er abdrückt, wenn sie das für nötig hält.

900
00:49:35.099 --> 00:49:38.900
 Wie stehst du, ich weiß, es gibt auch ein bisschen Forschung von dir zu Killer-Robots oder eben zu diesen Systemen,

901
00:49:39.039 --> 00:49:42.159
 aber wie schätzt du diese Gefahr ein?

902
00:49:42.159 --> 00:49:44.920
 Und das ist natürlich eine Frage der psychischen Manipulation.

903
00:49:45.260 --> 00:49:49.340
 Also kann sozusagen so ein Chatbot Menschen dazu bringen,

904
00:49:50.099 --> 00:49:53.639
 alles Mögliche zu tun, also ihre Kryptowährung zu kaufen,

905
00:49:53.760 --> 00:49:55.900
 damit sie sich replizieren kann auf anderen Servern.

906
00:49:56.320 --> 00:49:58.639
 Es gibt ja auch Beispiele, die schon in diese Richtung gehen.

907
00:49:59.639 --> 00:50:03.719
 Oder eben von mir aus auch einen Attentat zu verüben

908
00:50:03.719 --> 00:50:06.900
 auf den Programmierer oder die Programmiererin,

909
00:50:07.039 --> 00:50:09.960
 die jetzt ihr neues Betriebssystem geben will.

910
00:50:17.880 --> 00:50:22.059
 Die Geschichten, die wir erzählen, haben selber schon eine sehr starke Wirksamkeit.

911
00:50:22.760 --> 00:50:25.539
 Das heißt, wenn ich Geschichten erzähle von AI,

912
00:50:26.699 --> 00:50:27.719
 sei das jetzt die Metapher

913
00:50:27.719 --> 00:50:29.679
 Alien Intelligence oder im Deutschen die Metapher

914
00:50:29.679 --> 00:50:31.739
 Künstliche Intelligenz, habe ich damit

915
00:50:31.739 --> 00:50:34.019
 schon eine Wirkung, eine psychische Wirkung

916
00:50:34.019 --> 00:50:35.980
 erzielt. Ich öffne damit

917
00:50:35.980 --> 00:50:37.719
 einen Denkraum, das ist typisch für Metaphern.

918
00:50:38.219 --> 00:50:39.880
 Es gehen Denkräume auf. Wie wäre es

919
00:50:39.880 --> 00:50:41.380
 denn, wenn? What if?

920
00:50:41.760 --> 00:50:43.599
 Das ist natürlich für Science Fiction ein einziges Fest.

921
00:50:43.760 --> 00:50:45.000
 Wunderbar.

922
00:50:46.039 --> 00:50:47.519
 Zum anderen werden aber natürlich auch einfach rationale

923
00:50:47.519 --> 00:50:49.579
 Dinge vernebelt dadurch.

924
00:50:50.199 --> 00:50:51.760
 Rationale Unterscheidungen oder einfach

925
00:50:51.760 --> 00:50:53.800
 Unterscheidungen, auf die man sich vielleicht auch in der

926
00:50:53.800 --> 00:50:55.719
 Gesellschaft auch mal einigen sollte,

927
00:50:56.519 --> 00:50:57.760
 um auch einen politisch

928
00:50:57.760 --> 00:50:59.639
 resilienten, überlebensfähigen,

929
00:50:59.800 --> 00:51:01.599
 demokratisch vitalen Diskurs zu führen.

930
00:51:02.480 --> 00:51:03.980
 Und um das hoch zu skalieren,

931
00:51:04.119 --> 00:51:05.679
 also irgendwie habe ich das Gefühl,

932
00:51:05.760 --> 00:51:08.079
 unsere Welt ist gerade voll von allen möglichen Erzählungen,

933
00:51:08.619 --> 00:51:10.440
 wo sonst sowas für Alien-Intelligences,

934
00:51:10.579 --> 00:51:11.619
 Super-Intelligences,

935
00:51:11.719 --> 00:51:13.420
 wir wissen gar nicht, was das ist, angenommen wird,

936
00:51:13.480 --> 00:51:16.219
 aber wir haben diese Bots und fliegen mit denen auf den Mars

937
00:51:16.219 --> 00:51:18.260
 und lassen uns noch kreonisch irgendwie tiefkühlen

938
00:51:18.260 --> 00:51:20.900
 und dann wieder auf dem Mars dann irgendwie auftauen

939
00:51:20.900 --> 00:51:21.980
 und so weiter und so fort.

940
00:51:22.039 --> 00:51:23.800
 Und damit werden dann irgendwie Weltbilder

941
00:51:23.800 --> 00:51:25.420
 und politische Narrative verkauft.

942
00:51:25.559 --> 00:51:30.900
 Und das, was da erzählt wird, ist ja an sich schon ein Thema und hochproblematisch.

943
00:51:31.659 --> 00:51:33.780
 Und ich sage mal so, also eine Ingenieurin, ein Ingenieur,

944
00:51:34.719 --> 00:51:37.739
 jetzt sind wir mal bei den Entwicklerinnen, bei der Perspektive,

945
00:51:37.739 --> 00:51:41.360
 wo du vorhin noch gesagt hast, dass ich so ein bisschen gefinkelt philosophisch ausweiche.

946
00:51:41.840 --> 00:51:43.480
 Aber da kann man ja schon mal ganz klar sagen,

947
00:51:43.559 --> 00:51:46.340
 was ist denn das für eine schlechte Form von Engineering

948
00:51:46.340 --> 00:51:49.420
 und für eine grob fahrlässige Art, Produkte auf den Markt zu werfen,

949
00:51:49.460 --> 00:51:51.860
 wenn ich sage, ich habe ein informationsverarbeitendes System,

950
00:51:52.239 --> 00:51:55.679
 ich biete das dem Markt an oder einer Vertriebbringerin oder wem auch immer

951
00:51:55.679 --> 00:51:57.380
 und ich weiß selber gar nicht, wie das funktioniert.

952
00:51:57.880 --> 00:51:59.440
 Das ist doch ein einziger Skandal.

953
00:51:59.579 --> 00:52:02.219
 Solche Leute dürften doch gar nicht durch ein Ingenieurinnenstudium durchkommen.

954
00:52:02.639 --> 00:52:05.239
 Deswegen macht man ja die ganze Mathematik in der Informatikausbildung.

955
00:52:05.679 --> 00:52:09.239
 Algorithmen, Datenstrukturen und so weiter und so fort, Datenbanken und so weiter.

956
00:52:09.320 --> 00:52:12.039
 Versucht das mathematisch zu rationalisieren, nachzuvollziehen.

957
00:52:12.360 --> 00:52:13.719
 Was macht man darum, warum?

958
00:52:14.360 --> 00:52:18.159
 Was sind die Gewichtungen von den Knoten in den Graphen oder in diesen Machine Learning Systemen?

959
00:52:18.619 --> 00:52:21.420
 Und ich weiß nicht, wo es das in der Menschheitsgeschichte schon mal gegeben hat,

960
00:52:21.420 --> 00:52:26.460
 dass man Ingenieurinnen hat, dass man Leute mit komplexesten mathematischen Wissen und Modellen ausbildet

961
00:52:26.460 --> 00:52:28.460
 und dann hinterher sagt, okay, die werfen was auf den Markt,

962
00:52:28.579 --> 00:52:30.000
 naja, wir werden mal rausfinden, was das ist.

963
00:52:30.480 --> 00:52:34.280
 Und nach welchen Alien-Intelligenzen-Kriterien das dann entscheidet.

964
00:52:34.780 --> 00:52:38.800
 Also das ist einfach eine kulturelle Schieflage vielleicht

965
00:52:38.800 --> 00:52:41.320
 oder eine Schieflage in den Geschichten, die wir erzählen

966
00:52:41.320 --> 00:52:44.820
 und auch eine Schieflage in dem, was wir als Gesellschaft akzeptieren.

967
00:52:46.360 --> 00:52:48.340
 Also wieso akzeptieren wir das, dass uns so Technik massenhaft um die Ohren

968
00:52:48.340 --> 00:52:50.300
 geworfen wird, wo die Profis gar nicht

969
00:52:50.300 --> 00:52:52.300
 oder vielleicht behaupten, hey, sie wissen gar nicht,

970
00:52:52.380 --> 00:52:54.260
 warum das jetzt so funktioniert, warum nicht. Ja, wofür haben

971
00:52:54.260 --> 00:52:55.119
 wir denn dann die Profis?

972
00:53:00.119 --> 00:53:00.480
 Christiane,

973
00:53:00.539 --> 00:53:02.559
 du hast, glaube ich, bei dem Stichwort manipulative

974
00:53:02.559 --> 00:53:04.059
 KI

975
00:53:04.059 --> 00:53:06.179
 oder das Mikrofon genommen.

976
00:53:06.300 --> 00:53:12.099
 Du hast gefragt, kann die KI Menschen dazu bringen, auch extreme Dinge zu tun?

977
00:53:12.199 --> 00:53:17.539
 Ich meine, sich selber das Leben zu nehmen, okay, das wird jetzt wahrscheinlich eine Kombination sein,

978
00:53:18.960 --> 00:53:24.059
 wo die KI beteiligt war sozusagen.

979
00:53:24.059 --> 00:53:24.519
 wo die KI beteiligt war sozusagen.

980
00:53:26.679 --> 00:53:26.960
 Das war vorher auch immer die Diskussion,

981
00:53:30.480 --> 00:53:31.039
 kann denn das Internet die Menschen dazu bringen,

982
00:53:33.280 --> 00:53:33.440
 sich selber zu verletzen,

983
00:53:35.619 --> 00:53:40.599
 indem sie sich in entsprechenden Foren austauschen oder eben extrem ihre Magersucht zu betreiben.

984
00:53:41.780 --> 00:53:43.659
 Das macht das Medium ja nicht an sich,

985
00:53:43.840 --> 00:53:49.320
 sondern es macht die Nutzung oder die Art und Weise, wie wir das Medium nutzen. Ja, aber wenn die KI Menschen eben auch

986
00:53:49.320 --> 00:54:05.579
 unterstützt und sich das Leben zu nehmen, wenn Menschen sich in Maschinen verlieben, wenn Menschen Maschinen haben ich finde aber auch so interessant du hast

987
00:54:05.579 --> 00:54:10.079
 eben den touring test genannt dass inzwischen so was wie ein umgekehrter touring test eben

988
00:54:10.079 --> 00:54:15.840
 auch stattfindet also dass menschen wenn die bei der bahn oder auch bei online beratung stellen

989
00:54:15.840 --> 00:54:21.800
 jetzt fragen antwortet mir denn da wirklich ein mensch oder ist das jetzt ein bot ja und finden

990
00:54:21.800 --> 00:54:25.739
 sie das mal raus welche fragen müssen Sie stellen, also müssen wir

991
00:54:25.739 --> 00:54:28.480
 stellen, um rauszufinden,

992
00:54:28.559 --> 00:54:29.880
 ist das Gegenüber real

993
00:54:29.880 --> 00:54:31.599
 oder virtuell?

994
00:54:33.219 --> 00:54:34.059
 Ja, also die Frage

995
00:54:34.059 --> 00:54:35.880
 der Nutzung. Ich finde,

996
00:54:36.059 --> 00:54:38.019
 man sollte nicht zu schnell sozusagen

997
00:54:38.019 --> 00:54:40.000
 die Schuld bei den Nutzerinnen

998
00:54:40.000 --> 00:54:42.039
 suchen, sondern es gibt natürlich eine Default

999
00:54:42.039 --> 00:54:43.800
 Konfiguration der Systeme

1000
00:54:43.800 --> 00:54:46.199
 und die Konfiguration

1001
00:54:46.199 --> 00:54:48.099
 zielt halt darauf ab, dir erstmal

1002
00:54:48.099 --> 00:54:49.980
 zu gefallen und nicht dir die Wahrheit

1003
00:54:49.980 --> 00:54:51.880
 zu sagen. Und das hat

1004
00:54:51.880 --> 00:54:53.860
 damit zu tun, dass wenn wir

1005
00:54:53.860 --> 00:54:55.760
 untersuchen, welche Antworten Menschen

1006
00:54:55.760 --> 00:54:57.420
 am besten finden,

1007
00:54:57.880 --> 00:55:00.099
 von Chatbots, ist das wichtigste Kriterium

1008
00:55:00.099 --> 00:55:01.860
 Matches User's Belief.

1009
00:55:02.039 --> 00:55:04.059
 Also entspricht den Überzeugungen

1010
00:55:04.059 --> 00:55:08.800
 der Nutzerinnen und erst am fünften Platz kommt, ist wahrheitsgemäß.

1011
00:55:09.500 --> 00:55:14.780
 Und natürlich muss so ein KI-Anbieter im Zweifelsfall die Systeme optimieren

1012
00:55:14.780 --> 00:55:17.159
 für das, was den Nutzerinnen am besten gefällt.

1013
00:55:17.159 --> 00:55:19.320
 Das ist die Hauptmetrik sozusagen.

1014
00:55:19.659 --> 00:55:20.019
 Genau, absolut.

1015
00:55:20.519 --> 00:55:34.099
 Und solange wir uns am meisten wünschen, dass die Welt uns eigentlich nur das spiegelt, was wir sowieso schon glauben und das auch von den Chatbots erwarten, wird es in den Systemen wahrscheinlich die Default-Konfiguration bleiben.

1016
00:55:35.199 --> 00:55:46.619
 Und auch die Chatbots, in die sich Menschen verlieben, die sind ja auch zum Teil eben, das ist darin angelegt. Ja, absolut. Es ist sozusagen schon darin angelegt. Und insofern ist es ja auch ein Unterschied,

1017
00:55:46.760 --> 00:55:50.360
 ob das LLM wie bei Google eine Zusammenfassung ausspuckt

1018
00:55:50.360 --> 00:55:54.300
 oder eben eine Chatbot-Antwort gibt.

1019
00:55:54.380 --> 00:55:56.139
 Da kannst du das gleiche LLM laufen lassen

1020
00:55:56.139 --> 00:55:58.900
 und legst aber eine andere Schicht Software drüber

1021
00:55:58.900 --> 00:56:01.679
 und dann gibt es dir eine Chatbot-konversationelle Antwort

1022
00:56:01.679 --> 00:56:04.139
 oder eben ein Summary.

1023
00:56:04.940 --> 00:56:06.400
 Die Chatbot-Antwort

1024
00:56:06.400 --> 00:56:08.079
 verführt dich aber natürlich mehr

1025
00:56:08.079 --> 00:56:10.260
 zum Elisa-Effekt und mehr

1026
00:56:10.260 --> 00:56:12.239
 dazu, dich womöglich

1027
00:56:12.239 --> 00:56:14.340
 mit dem zu identifizieren, zu verlieben und so weiter

1028
00:56:14.340 --> 00:56:16.239
 und so fort. Also insofern, ja,

1029
00:56:16.360 --> 00:56:17.800
 ich gebe dir recht. Also einerseits

1030
00:56:17.800 --> 00:56:20.219
 finde ich, natürlich sollten

1031
00:56:20.219 --> 00:56:21.760
 die Entwicklerinnen und Entwickler

1032
00:56:21.760 --> 00:56:24.139
 Dinge nicht veröffentlichen, die sie

1033
00:56:24.139 --> 00:56:25.119
 nicht richtig verstehen.

1034
00:56:27.920 --> 00:56:28.079
 Das ist ja, gut, das ist jetzt schon lange eine Silicon Valley Kultur,

1035
00:56:31.000 --> 00:56:32.099
 dass man es erstmal auf den Markt schmeißt und dann schaut, was passiert.

1036
00:56:33.679 --> 00:56:33.800
 Und das andere ist aber auch die Frage,

1037
00:56:36.400 --> 00:56:36.860
 welche Software-Schicht wird drübergelegt.

1038
00:56:38.440 --> 00:56:41.400
 Und natürlich kann man das umstellen. Ich kann natürlich bei meinem Chat-GPT,

1039
00:56:41.460 --> 00:56:44.480
 kann ich sozusagen die Psycho-Fancy, also diese Schmeichelei,

1040
00:56:44.980 --> 00:56:46.079
 extrem runterschalten.

1041
00:56:46.300 --> 00:56:51.840
 Aber das ist halt nicht das, was er automatisch tut, sondern automatisch schmeichelt er mir eher mehr als weniger

1042
00:56:51.840 --> 00:56:57.099
 und optimiert eben, ist optimiert mir zu gefallen und nicht mehr die Wahrheit zu sagen und so.

1043
00:56:57.679 --> 00:57:05.840
 Ja, man kann das als User und User dann etwas korrigieren und kann das vielleicht auch einklagen und so, aber es letztlich entscheidet

1044
00:57:05.840 --> 00:57:10.340
 vermutlich der Markt darüber, was dann die Default-Konfiguration ist.

1045
00:57:11.039 --> 00:57:18.340
 Ja, du hast recht, also zu sagen, dass man den Nutzer sozusagen nicht die Verantwortung

1046
00:57:18.340 --> 00:57:24.139
 oder die alleinige Verantwortung übergibt. Und die Frage ist auch, selbst wenn wir in

1047
00:57:24.139 --> 00:57:45.079
 Schulen oder eben auch unsere Patienten über die Mechanismen aufklären, das ist dasselbe ja bei Social Media, da ist es ja auch, dass suchterzeugende Mechanismen eingesetzt werden, um möglichst lange im System zu halten.

1048
00:57:49.559 --> 00:57:49.659
 Ja, und das ist, auch wenn wir unseren Kindern, Jugendlichen oder Patienten sagen,

1049
00:57:52.380 --> 00:57:53.039
 dass es diese Mechanismen gibt, verfallen wir denen ja dennoch.

1050
00:57:58.159 --> 00:58:02.840
 Also das wird ja mit Belohnungseffekten auch auf Instagram oder wie die ganzen Plattformen gearbeitet. Da kriegen sie dann auch mal drei langweilige Videos und dann wieder ein Video zu bekommen,

1051
00:58:02.940 --> 00:58:04.480
 was eben Glücksgefühle auslöst.

1052
00:58:05.000 --> 00:58:09.679
 Ja, und ich denke mir, es ist eben auch das Problem der Black Box.

1053
00:58:10.059 --> 00:58:14.840
 Also bei Social Media wissen das wahrscheinlich auch die wenigsten, wie die Mechanismen laufen.

1054
00:58:15.440 --> 00:58:19.420
 Und hier ist es natürlich bei der KI nochmal extremer.

1055
00:58:19.420 --> 00:58:27.320
 Ich denke, dennoch müssen wir verstehen, wie diese Maschinen aufgebaut sind, wie sie funktionieren.

1056
00:58:27.320 --> 00:58:35.380
 Was aber nicht heißt, dass wir nicht dennoch den Mechanismen, die dahinter stecken, verfallen können.

1057
00:58:40.679 --> 00:58:46.340
 Wenn du willst, aber sonst würde ich auch gerne zum Publikum öffnen.

1058
00:58:47.780 --> 00:58:51.440
 Auch gerne, falls Online-Fragen sind, gerne in den Chat schreiben.

1059
00:58:51.559 --> 00:58:55.860
 Gibt es Fragen, Anmerkungen, Dinge, die noch nicht diskutiert wurden,

1060
00:58:55.960 --> 00:58:59.699
 die ihr gerne diskutieren würdet oder die Sie gerne diskutieren würden?

1061
00:59:00.300 --> 00:59:02.159
 Ja, da gibt es...

1062
00:59:02.159 --> 00:59:10.719
 Ich muss mich erstmal entschuldigen, weil ich zu spät gekommen bin. Ich weiß daher nicht, ob die zentralen Fragen in der ersten halben Stunde diskutiert wurden.

1063
00:59:11.300 --> 00:59:18.820
 Ich bin da draußen herumgeirrt und habe das Depot in der Breitegasse 4 gesucht, wie der Klaus es mir, glaube ich, geschrieben hat.

1064
00:59:18.820 --> 00:59:28.980
 So habe ich es mir jedenfalls aufgeschrieben und dann erst nach langem biologischen zögern habe ich die ki gefragt und die hat gesagt na na das ist eine breite gasse 3 und dann habe ich es

1065
00:59:28.980 --> 00:59:34.900
 gleich gefunden also dass die simulation also ich möchte ein bisschen die

1066
00:59:34.900 --> 00:59:43.659
 sending opinion äußern weil mir hier von dem was ich gehört habe zu viel

1067
00:59:43.659 --> 00:59:45.820
 selbstverständlichkeiten geäußert wurden

1068
00:59:45.820 --> 00:59:52.360
 zum beispiel etwas sei nur eine simulation so wort aber alleine die

1069
00:59:52.360 --> 00:59:58.840
 tatsache dass wir über leiblichkeit verfügen sagt ja noch nichts also unser

1070
00:59:58.840 --> 01:00:02.440
 körper ist so zwischen ein und zwei meter groß in aller regel und mit dem

1071
01:00:02.440 --> 01:00:08.780
 kann man alles mögliche machen aber was wir hier tun und was einen großen Teil unserer Kultur ausmacht,

1072
01:00:08.880 --> 01:00:13.659
 reduziert sich auf ganz bestimmte Aspekte, hauptsächlich der Kommunikation.

1073
01:00:14.159 --> 01:00:17.639
 Also wir setzen ja den Körper, diese Leiblichkeit nicht zu 100% ein.

1074
01:00:18.559 --> 01:00:24.079
 Das heißt, wenn dort eine Simulation gelingt, dann ist doch die zentrale Frage,

1075
01:00:24.260 --> 01:00:25.659
 mit der uns die

1076
01:00:25.659 --> 01:00:28.079
 KI-Revolution konfrontiert,

1077
01:00:28.539 --> 01:00:30.099
 umgekehrt, was

1078
01:00:30.099 --> 01:00:31.900
 macht denn uns aus?

1079
01:00:32.420 --> 01:00:33.860
 Was macht denn die

1080
01:00:33.860 --> 01:00:35.139
 Menschlichkeit aus, wenn

1081
01:00:35.139 --> 01:00:37.920
 entweder die Maschine alles gut

1082
01:00:37.920 --> 01:00:39.559
 kann, so gut wie wir,

1083
01:00:39.940 --> 01:00:42.260
 oder wenn sie es nicht können sollte,

1084
01:00:42.500 --> 01:00:44.059
 ist dann auch noch die Frage, wer das

1085
01:00:44.059 --> 01:00:45.340
 zu entscheiden vermag,

1086
01:00:48.300 --> 01:00:54.380
 es immerhin so gut zu simulieren vermag. Also die Frage jetzt, ob es möglich ist, sich in eine Maschine zu verlieben,

1087
01:00:54.699 --> 01:01:00.360
 ist doch keine andere Frage, als ob es möglich ist und in der ganzen Weltliteratur möglich war,

1088
01:01:00.739 --> 01:01:02.380
 sich in einen Betrüger zu verlieben.

1089
01:01:02.760 --> 01:01:05.760
 Auch der simuliert ja letztlich diese diese vorgetäuschte

1090
01:01:05.760 --> 01:01:14.579
 liebe ich glaube auch dass es ein unbegründeter anspruch an die ingenieurswelt ist dass die immer

1091
01:01:14.579 --> 01:01:21.500
 alles erklären können sollen die erste atombombe die gezündet wurde als test hat eine viel höhere

1092
01:01:21.500 --> 01:01:25.840
 sprengkraft gehabt als das voraus berechnet war. Die erste Wasserstoffbombe war nur zur Hälfte

1093
01:01:25.840 --> 01:01:27.639
 gefüllt und hat eine doppelte Sprengkraft gehabt.

1094
01:01:28.179 --> 01:01:29.960
 Also seit es die Unterscheidung zwischen

1095
01:01:29.960 --> 01:01:32.440
 den Physikern als Wissenschaftlern

1096
01:01:32.440 --> 01:01:34.320
 einerseits und den Ingenieuren

1097
01:01:34.320 --> 01:01:35.619
 als Machenden,

1098
01:01:35.840 --> 01:01:38.280
 Versuchenden, Experimentierenden

1099
01:01:38.280 --> 01:01:39.559
 gibt, haben wir das doch schon.

1100
01:01:40.420 --> 01:01:41.940
 Ingenieurswissenschaft ist dadurch gekennzeichnet,

1101
01:01:42.000 --> 01:01:43.920
 dass die nicht wissen, was sie tun. Jedenfalls nicht im

1102
01:01:43.920 --> 01:01:45.460
 Vorhinein. Die können es nicht erklären.

1103
01:01:46.360 --> 01:01:48.719
 Und warum nehmen wir das denn alles?

1104
01:01:48.800 --> 01:01:53.039
 Warum nehme ich die KI, um die breite Gasse 3 zu finden oder das Depot zu finden?

1105
01:01:53.400 --> 01:01:56.360
 Ja, weil es geht, weil es auf meinem Handy drauf ist.

1106
01:01:56.739 --> 01:01:58.679
 Nicht, weil ich denke, dass das gut ist.

1107
01:01:58.739 --> 01:02:09.639
 Ich lehne KI ab, aber es ist für uns alle in unterschiedlichem Ausmaß annehmbar und deswegen macht es einen Siegeszug leider und damit müssen wir umgehen.

1108
01:02:13.440 --> 01:02:26.139
 Ja, vielen Dank. Magst du zu der Simulationsfrage oder anderen? relativ viele Punkte dabei. Ich würde mal entschieden an einem Punkt widersprechen, weil das Beispiel der Atombombe zeigt ja relativ

1109
01:02:26.139 --> 01:02:27.699
 gut, dass

1110
01:02:27.699 --> 01:02:30.260
 man schwer sagen

1111
01:02:30.260 --> 01:02:32.239
 kann, Ingenieurinnen

1112
01:02:32.239 --> 01:02:34.079
 sind wie eine Art Anwendung von

1113
01:02:34.079 --> 01:02:36.199
 Naturwissenschaften. Das klingt natürlich komisch,

1114
01:02:36.260 --> 01:02:37.780
 weil man historisch erstmal sagen muss,

1115
01:02:38.219 --> 01:02:40.019
 es gab einen brillanten Physiker, Einstein,

1116
01:02:40.219 --> 01:02:41.960
 da kamen dann noch andere hinterher. Wir haben da

1117
01:02:41.960 --> 01:02:44.000
 allgemein eine spezielle

1118
01:02:44.000 --> 01:02:46.239
 Relativitätstheorie 1905, 1915.

1119
01:02:46.639 --> 01:02:49.920
 Und dann ist was passiert, was in der Technikgeschichte ein Skandal ist.

1120
01:02:50.000 --> 01:02:51.880
 Ich versuche es jetzt etwas pathetisch zu formulieren.

1121
01:02:52.239 --> 01:02:54.780
 Man hat eine abstrakte, komplexe physikalische Theorie,

1122
01:02:54.900 --> 01:02:57.300
 die zwischendrin auch ein bisschen mit Rotverschiebung,

1123
01:02:57.420 --> 01:02:59.900
 mit Beobachtungsdaten, mit Evidenz versorgt wurde.

1124
01:03:00.019 --> 01:03:02.159
 Details können die Profis von der Physik dann genauer erklären.

1125
01:03:02.880 --> 01:03:06.059
 Quantentheorie und so weiter, Resonanz in der Philosophie 1930er Jahre.

1126
01:03:06.519 --> 01:03:08.800
 Und jetzt auf einmal haben wir leider einen Krieg,

1127
01:03:08.860 --> 01:03:11.119
 der als Katalysator für eine technische Entwicklung wirkt.

1128
01:03:11.219 --> 01:03:15.079
 Der Zweite Weltkrieg, das Manhattan Project, Los Alamos, 400.000 Personen.

1129
01:03:15.800 --> 01:03:19.380
 Nebeneffekt, Jürgen von Neumann, die von Neumann Computerarchitektur.

1130
01:03:19.380 --> 01:03:20.480
 In dem Zusammenhang entstanden.

1131
01:03:21.099 --> 01:03:25.619
 Und es ist jetzt eine Ingenieurinneninnen technische Anwendung von Kernspaltung

1132
01:03:25.619 --> 01:03:27.920
 quasi umgesetzt worden, Ergebnis

1133
01:03:27.920 --> 01:03:28.639
 Atombomben.

1134
01:03:30.400 --> 01:03:32.119
 Es ist so, dass man

1135
01:03:32.119 --> 01:03:33.880
 argumentieren kann, das ist ein Sonderfall,

1136
01:03:34.179 --> 01:03:36.199
 insofern stimmt das, dass sehr sehr viel Technik

1137
01:03:36.199 --> 01:03:38.059
 nach wie vor auch mit Erfahrungswissen

1138
01:03:38.059 --> 01:03:40.019
 gemacht wird. Also wenn wir uns die Pyramiden

1139
01:03:40.019 --> 01:03:41.659
 anschauen, wenn wir uns die großen gotischen

1140
01:03:41.659 --> 01:03:43.920
 Kathedralen anschauen, wenn wir uns, also da

1141
01:03:43.920 --> 01:03:45.920
 muss man nur mal bauhistorisch durch Wien durchgehen,

1142
01:03:46.019 --> 01:03:48.219
 da ist relativ viel mit Erfahrungswissen

1143
01:03:48.219 --> 01:03:50.059
 gemacht worden, was man heute ja wunderbar

1144
01:03:50.059 --> 01:03:52.099
 simulieren kann natürlich mit Computermodellen,

1145
01:03:52.179 --> 01:03:53.559
 das ist immer wieder bei der Simulation,

1146
01:03:54.099 --> 01:03:56.199
 aber natürlich ist es so, dass ein Großteil der Technikgeschichte

1147
01:03:56.199 --> 01:03:58.079
 mit implizitem Wissen, mit Trial and Error,

1148
01:03:58.179 --> 01:04:00.219
 mit Tinkering und so weiter umgesetzt

1149
01:04:00.219 --> 01:04:02.260
 wurde. Wir haben dann eine Ingenieurinnenkultur,

1150
01:04:02.340 --> 01:04:03.960
 die geht ab der Frühneuzeit los,

1151
01:04:04.039 --> 01:04:05.659
 das geht dann in Oberitalien,

1152
01:04:05.719 --> 01:04:07.719
 Da Vinci und so weiter, die Künstlerinnen, Ingenieure,

1153
01:04:08.059 --> 01:04:09.679
 das verfließt noch alles ein bisschen ineinander

1154
01:04:09.679 --> 01:04:11.820
 mit Mathematik, mit Berechnung, Ballistik,

1155
01:04:11.940 --> 01:04:13.699
 physikalische Berechnung, es waren auch da wieder

1156
01:04:13.699 --> 01:04:15.659
 Festungsbauten und Kanonen

1157
01:04:15.659 --> 01:04:17.760
 und deswegen Ballistik, also das heißt,

1158
01:04:17.880 --> 01:04:19.800
 da war leider auch Krieg wieder ein Katalysator, lange Rede,

1159
01:04:19.920 --> 01:04:21.699
 kurzer Sinn. Wir haben in Europa eine

1160
01:04:21.699 --> 01:04:23.699
 Kulturgeschichte von mehreren Jahrhunderten,

1161
01:04:23.719 --> 01:04:26.539
 wo wir anfangen, technisches Wissen zu verwissenschaftlichen.

1162
01:04:27.260 --> 01:04:31.340
 Also wo wir das durchsättigen mit Mathematik, mit Berechenbarkeit.

1163
01:04:31.659 --> 01:04:35.059
 Und das hat zwei Folgen. Die eine Folge ist die, dass man heute natürlich sagen muss,

1164
01:04:35.400 --> 01:04:42.380
 wenn wir so eine hochkomplexe Ingenieurinnenkultur haben, die so mathematisch-technologisch durchsetzt ist,

1165
01:04:42.380 --> 01:04:45.039
 also wo man quasi in der Maschinenbauausbildung

1166
01:04:45.039 --> 01:04:47.719
 natürlich beinharte Physik studiert mit

1167
01:04:47.719 --> 01:04:49.179
 oder studieren muss mit natürlich auch.

1168
01:04:50.059 --> 01:04:51.599
 Dann kann man natürlich auch sagen,

1169
01:04:51.719 --> 01:04:53.480
 okay, wenn wir jetzt solche Technologien haben,

1170
01:04:53.559 --> 01:04:55.179
 so eine Technologiekultur,

1171
01:04:55.280 --> 01:04:57.639
 dann steigt daran natürlich auch der Rechtfertigungsdruck

1172
01:04:57.639 --> 01:04:58.320
 oder Anspruch.

1173
01:04:58.699 --> 01:05:00.559
 Zumindest können wir das als Gesellschaft formulieren.

1174
01:05:00.639 --> 01:05:01.760
 Wir müssen ja nicht einfach sagen,

1175
01:05:01.820 --> 01:05:02.920
 wir nehmen Technologien hin

1176
01:05:02.920 --> 01:05:04.579
 und überlegen uns jetzt reaktiv,

1177
01:05:04.619 --> 01:05:06.239
 was wir erlauben oder was wir nicht erlauben.

1178
01:05:06.300 --> 01:05:08.320
 Nein, wir können nur sagen, wir führen eine Diskussion

1179
01:05:08.320 --> 01:05:09.940
 über das, was wir als Gesellschaft

1180
01:05:09.940 --> 01:05:11.820
 wollen. Welche KI

1181
01:05:11.820 --> 01:05:13.920
 wollen wir denn eigentlich? Das ist eine ganz andere

1182
01:05:13.920 --> 01:05:15.760
 Diskussion. Und da kann man natürlich sagen,

1183
01:05:15.860 --> 01:05:17.760
 diejenigen, die eh so viel technisches, auch

1184
01:05:17.760 --> 01:05:19.980
 naturwissenschaftliches Wissen haben, die sollten

1185
01:05:19.980 --> 01:05:21.960
 dann auch mal zeigen, warum und wie das funktioniert.

1186
01:05:22.280 --> 01:05:23.980
 So, erster Punkt. Zweiter Punkt, natürlich

1187
01:05:23.980 --> 01:05:26.039
 ist Ingenieurinnenwissen, dafür würde ich jetzt auch ganz

1188
01:05:26.039 --> 01:05:27.980
 leidenschaftlich streiten, mehr als nur

1189
01:05:27.980 --> 01:05:29.760
 angewandtes naturwissenschaftliches Wissen,

1190
01:05:30.219 --> 01:05:31.980
 dass allein durch diese ganzen Aspekte

1191
01:05:31.980 --> 01:05:34.099
 des Testens, der Laborarbeit

1192
01:05:34.099 --> 01:05:36.099
 und so weiter und so fort ja auch noch Wissensbereiche

1193
01:05:36.099 --> 01:05:37.940
 reinkommen, die, sag ich mal,

1194
01:05:38.019 --> 01:05:40.239
 über eine perfekte

1195
01:05:40.239 --> 01:05:41.940
 Trennung zu den Naturwissenschaften dann

1196
01:05:41.940 --> 01:05:44.139
 hinausführt. Das wäre eine Detaildiskussion,

1197
01:05:44.639 --> 01:05:47.199
 geiler Punkt, also könnten wir jetzt stundenlang darüber reden,

1198
01:05:47.559 --> 01:05:49.960
 aber ich finde es ist wahnsinnig wichtig, weil das zeigt einfach,

1199
01:05:50.239 --> 01:05:54.159
 dass in der Philosophie würde man sagen, Ethik und Epistemologie greifen ineinander.

1200
01:05:54.599 --> 01:05:57.659
 Ich komme der Ethik nicht weit, wenn ich mir nicht über Wissen Gedanken mache.

1201
01:05:58.139 --> 01:06:01.300
 Spätestens dann, wenn ich utilitaristisch argumentiere,

1202
01:06:01.639 --> 01:06:05.880
 muss ich mein Wissen über Handlungsfolgen in meine ethische Bewertung mit einschleifen und spätestens

1203
01:06:05.880 --> 01:06:07.360
 dann muss ich mir natürlich Gedanken machen,

1204
01:06:07.800 --> 01:06:09.739
 ja, Sokrates, also was kann man eigentlich wissen?

1205
01:06:09.840 --> 01:06:11.900
 Ich weiß, dass ich nichts weiß und wie gehe ich dann

1206
01:06:11.900 --> 01:06:13.500
 damit um? Da sind wir wieder beim Sokrates,

1207
01:06:13.639 --> 01:06:15.820
 Klammer auf, letzter Punkt. Angeblich hat er

1208
01:06:15.820 --> 01:06:17.719
 einen Suizid begangen, also hat den Schierlingsbecher

1209
01:06:17.719 --> 01:06:19.840
 nach einer pathetischen Verteidigung

1210
01:06:19.840 --> 01:06:21.659
 vorm Gericht getrunken. Das wäre auch nochmal so ein

1211
01:06:21.659 --> 01:06:23.840
 Unterschied zu einem Chatbot. Ich möchte mal einen Chatbot erleben,

1212
01:06:24.260 --> 01:06:26.219
 der eine Biografie hat und sich dann pathetisch

1213
01:06:26.219 --> 01:06:27.599
 so in den Selbstmord, aber gut,

1214
01:06:28.000 --> 01:06:28.980
 das kann jetzt jeder überlegen,

1215
01:06:29.579 --> 01:06:31.440
 weil dieses Gedankenexperiment trägt.

1216
01:06:32.659 --> 01:06:34.019
 Ich hoffe, ich konnte jetzt ein paar von den

1217
01:06:34.019 --> 01:06:36.000
 Punkten zumindest kommentieren, aber da war noch

1218
01:06:36.000 --> 01:06:38.280
 mehr drin jetzt gerade. Die Frage der Simulation

1219
01:06:38.280 --> 01:06:39.800
 natürlich sozusagen, dass man

1220
01:06:39.800 --> 01:06:41.619
 sagt, ja nur Simulation,

1221
01:06:42.400 --> 01:06:43.960
 also dass Simulation schon

1222
01:06:43.960 --> 01:06:45.059
 was zeigt über, ja, das ist, also dass Simulation schon was zeigt über,

1223
01:06:45.820 --> 01:06:47.599
 ja, das ist, also

1224
01:06:47.599 --> 01:06:49.960
 für mich zeigt es zum anderen, dass

1225
01:06:49.960 --> 01:06:51.940
 ja wir Interaktion mit anderen

1226
01:06:51.940 --> 01:06:54.099
 Menschen oft eben in dieser

1227
01:06:54.099 --> 01:06:55.559
 physisch desinkarnierten

1228
01:06:55.559 --> 01:06:57.960
 Form führen und das für eine volle

1229
01:06:57.960 --> 01:06:59.980
 Interaktion schon halten, also

1230
01:06:59.980 --> 01:07:01.099
 ich glaube, wir wurden halt

1231
01:07:01.099 --> 01:07:03.960
 durch die Foren, aber noch viel mehr

1232
01:07:03.960 --> 01:07:05.239
 durch das Chatten,

1233
01:07:10.199 --> 01:07:10.320
 gut darauf vorbereitet, irgendwie jetzt mit so einem Chatbot interagieren zu wollen,

1234
01:07:16.300 --> 01:07:16.980
 der eben nicht reagiert, der nicht nickt, der nicht mit uns in einem Raum ist und all diese Dinge.

1235
01:07:20.719 --> 01:07:24.619
 Also ja, da funktioniert die Simulation eben gut. Die funktioniert räumlich, wie du es auch beschrieben hast, noch nicht so gut.

1236
01:07:22.000 --> 01:07:22.059
 eben gut, die funktioniert räumlich,

1237
01:07:23.300 --> 01:07:23.739
 wie du es auch beschrieben hast,

1238
01:07:24.619 --> 01:07:26.179
 noch nicht so gut.

1239
01:07:27.179 --> 01:07:27.440
 Ich glaube, wir haben halt,

1240
01:07:30.119 --> 01:07:30.360
 eine Antwort darauf wäre zu sagen,

1241
01:07:32.280 --> 01:07:34.139
 wir haben sozusagen die menschliche Interaktion oder was

1242
01:07:34.139 --> 01:07:35.880
 Sherry Turkle Conversation nennt,

1243
01:07:36.539 --> 01:07:38.480
 schon auf so eine reduzierte Form,

1244
01:07:39.659 --> 01:07:40.780
 wir akzeptieren sie

1245
01:07:40.780 --> 01:07:42.059
 in so einer reduzierten Form,

1246
01:07:42.139 --> 01:07:44.440
 ganz selbstverständlich, dass es jetzt

1247
01:07:44.440 --> 01:07:46.119
 einfach geworden ist

1248
01:07:46.119 --> 01:07:48.460
 für ein Chatbot, das zu simulieren,

1249
01:07:49.039 --> 01:07:50.159
 dass es nämlich ein Gegenüber

1250
01:07:50.159 --> 01:07:50.539
 ist.

1251
01:07:52.719 --> 01:07:54.179
 Ja, und eine Hoffnung, die man

1252
01:07:54.179 --> 01:07:55.619
 daran knüpfen könnte, ist, dass

1253
01:07:55.619 --> 01:07:58.039
 mehr Leute in solchen Räumen zusammen

1254
01:07:58.039 --> 01:08:00.039
 kommen wieder, anstatt eben

1255
01:08:00.039 --> 01:08:01.519
 nur vor ihren Bildschirmen zu sitzen

1256
01:08:01.519 --> 01:08:04.000
 oder mit ihren Handys zu

1257
01:08:04.000 --> 01:08:07.079
 interagieren. Aber das ist jetzt auch nur eine teilweise Antwort.

1258
01:08:08.679 --> 01:08:11.179
 Es ist nicht nur eine Frage der Verfügbarkeit.

1259
01:08:11.579 --> 01:08:14.320
 Ein Chatbot ist 24-7 permanent verfügbar.

1260
01:08:14.719 --> 01:08:17.680
 Das kann kein Mensch, kann nicht mal eine Mutter in der Form leisten,

1261
01:08:17.779 --> 01:08:19.060
 auch wenn sie es noch so sehr versucht.

1262
01:08:19.640 --> 01:08:42.939
 Und ich glaube, dass auch die vermeintliche Selbstbestimmung da auch ein Thema ist. Ich kann zu jeder Tageszeit das machen. Ich bin nicht auf irgendjemanden angewiesen. Ich bestimme selber vermeintlich die Konversation und fühle mich als Agierer und nicht unbedingt als Reagierer.

1263
01:08:46.659 --> 01:08:52.039
 als agierer und nicht unbedingt als reagierer und ich glaube dass die physische präsenz eines gegenüber ist offensichtlich wenn ich mir das anhöre gar nicht mal mehr das thema ist weil

1264
01:08:52.039 --> 01:08:57.399
 ja auch die vereinsamung in der gesellschaft schon so groß geworden ist das offensichtlich

1265
01:08:57.399 --> 01:09:07.140
 eine stimme die dann auch wieder vorher gesagt hast auch in mich in dem bestätigt, was ich ja hören will, dann überhaupt das Beste ist, was mir passieren kann.

1266
01:09:08.000 --> 01:09:10.699
 Ja, das ist ganz wichtig, was Sie sagen.

1267
01:09:10.859 --> 01:09:16.880
 Wir können uns natürlich auch fragen, wie verändert uns das und unsere sozialen Beziehungen mit der Zeit,

1268
01:09:16.880 --> 01:09:23.380
 wenn eben immer mehr oder irgendwann vielleicht auch von manchen überwiegend mit Chatbots kommuniziert wird.

1269
01:09:23.720 --> 01:09:25.899
 Was ist mit dem, wie Sie richtigerweise sagen,

1270
01:09:25.979 --> 01:09:27.100
 ständig Verfügbarkeit?

1271
01:09:27.460 --> 01:09:30.520
 Was ist damit, Bedürfnisse vielleicht aufzuschieben,

1272
01:09:30.779 --> 01:09:33.420
 warten, bis am nächsten Morgen wieder jemand erreichbar ist?

1273
01:09:33.800 --> 01:09:36.819
 Was hat das mit der Selbstregulationsfähigkeit zu tun,

1274
01:09:36.960 --> 01:09:38.880
 eben auch Emotionen zu halten?

1275
01:09:39.239 --> 01:09:41.460
 Was macht es mit unseren sozialen Fähigkeiten,

1276
01:09:41.939 --> 01:09:45.960
 wenn die KI mit mir ja eher reibungslose Dialoge führt.

1277
01:09:46.479 --> 01:09:50.340
 Was macht es auch damit, emotionale Spannungen auszuhalten,

1278
01:09:51.220 --> 01:09:59.079
 die eben in menschlichen Beziehungen und Gesprächen und Interaktionen immer wieder auftauchen?

1279
01:10:00.520 --> 01:10:03.500
 Ja, vielen Dank. Das ist eigentlich diese gesellschaftliche Dimension,

1280
01:10:03.640 --> 01:10:09.500
 die ich vorher angekündigt habe, aber über die wir ja noch ein bisschen weniger gesprochen haben. Es gab noch eine Frage oder Anmerkung?

1281
01:10:09.500 --> 01:10:25.960
 Ja, eine Frage zum Thema KI und Psychotherapie. Wir haben über einige grundsätzliche Fragen gesprochen, aber das Ganze

1282
01:10:25.960 --> 01:10:28.140
 hat ja auch eine handfeste

1283
01:10:28.140 --> 01:10:29.260
 ökonomische Dimension,

1284
01:10:29.859 --> 01:10:31.960
 in der Hinsicht, dass es viele Menschen

1285
01:10:31.960 --> 01:10:34.079
 gibt, die eine Psychotherapie benötigen würden,

1286
01:10:34.539 --> 01:10:35.579
 sie sich aber

1287
01:10:35.579 --> 01:10:37.460
 ganz einfach nicht leisten können.

1288
01:10:38.119 --> 01:10:39.500
 Das heißt, wenn diese Personen

1289
01:10:39.500 --> 01:10:44.119
 GCPT als Ersatztherapeuten verwenden,

1290
01:10:44.600 --> 01:10:45.819
 ist es dann besser als nichts?

1291
01:10:46.680 --> 01:10:48.380
 Oder ist es schlechter als nichts?

1292
01:10:49.319 --> 01:10:51.300
 Beziehungsweise, wovon hängt es ab,

1293
01:10:51.359 --> 01:10:52.800
 ob es besser oder schlechter als nichts ist?

1294
01:10:53.819 --> 01:10:56.439
 Ja, das ist natürlich auch immer wieder das Argument,

1295
01:10:56.600 --> 01:10:57.960
 Stichwort Skalierbarkeit,

1296
01:10:58.100 --> 01:11:01.600
 Gesundheitsversorgung im großen Maßstab anzubieten.

1297
01:11:02.319 --> 01:11:25.359
 Wir wissen, dass auch gerade spezialisierte Bots, die trainiert sind auf psychotherapeutische Gespräche, meistens verhaltenstherapeutisch orientiert, dass die helfenkeln, wenn die vier bis acht Wochen mit dem sprechen,

1298
01:11:29.640 --> 01:11:29.899
 scheint das vergleichbare Effekte zu haben wie eine Psychotherapie.

1299
01:11:35.039 --> 01:11:37.920
 Aber, dann haben wir noch nicht von komplexen Störungen gesprochen und wir haben noch nicht über Langzeitfolgen gesprochen.

1300
01:11:37.920 --> 01:11:45.800
 Also die langfristige Katamnesen, die Langzeiteffekte zu untersuchen, steht eben aus.

1301
01:11:46.300 --> 01:11:48.340
 Weil was wollen wir denn in der Psychotherapie erreichen?

1302
01:11:48.420 --> 01:11:51.079
 Wir wollen in der Psychotherapie erreichen, dass die Effekte,

1303
01:11:51.140 --> 01:11:54.260
 das, was wir als Behandlungsergebnis haben, stabil bleiben.

1304
01:11:54.399 --> 01:11:57.840
 Und dass die Patienten sich günstigerweise auch besser kennengelernt haben

1305
01:11:57.840 --> 01:12:00.159
 und sich auch noch weiterentwickeln nach der Psychotherapie.

1306
01:12:00.539 --> 01:12:03.279
 Was ist aber, welchen Effekt haben denn diese Bots?

1307
01:12:03.619 --> 01:12:28.020
 Also muss ich ständig mit denen weiter interagieren, um sozusagen bei der Symptomreduktion zu bleiben? Das wissen wir alles noch nicht. Und ich denke, ja, das werde ich auch häufig gefragt, wenn Menschen ja mit den Bots interagüber zu haben, der ein bisschen Rollenstile anbietet, ein paar Trainings.

1308
01:12:28.420 --> 01:12:31.560
 Das, was bei leichten Störungsausprägungen

1309
01:12:31.560 --> 01:12:33.539
 vielleicht eben auch ausreichen kann,

1310
01:12:33.619 --> 01:12:34.960
 dann ist das aber auch in Ordnung.

1311
01:12:35.239 --> 01:12:39.439
 Bei vielen chronischen Störungen oder chronifizierten Störungen,

1312
01:12:39.520 --> 01:12:40.960
 schweren Störungen wird es nicht so sein.

1313
01:12:40.960 --> 01:12:43.720
 Und es kann aber natürlich auch dazu führen,

1314
01:12:44.060 --> 01:12:45.539
 wenn ich mit dem Bot spreche,

1315
01:12:45.939 --> 01:12:49.420
 dass ich mich in so einer Scheinsicherheit wiege.

1316
01:12:49.420 --> 01:12:51.399
 Ach ja, mir geht es ja eigentlich besser.

1317
01:12:51.880 --> 01:12:54.520
 Aber im Grunde dann verzögert professionelle Hilfe

1318
01:12:54.520 --> 01:12:57.880
 den Anspruchnehmer und die Probleme sich eben schon chronifiziert haben,

1319
01:12:58.199 --> 01:13:00.659
 weil es eben nicht geholfen oder nicht genug geholfen hat.

1320
01:13:09.939 --> 01:13:17.760
 Ich habe einen Gedanken, der ganz kurz angesprochen wurde. Und zwar ist es so, dass Bots auch sozusagen über Themen, die vielleicht schambehaftet sind,

1321
01:13:19.020 --> 01:13:24.020
 sozusagen das erste Mal helfen, wenn das artikuliert wird.

1322
01:13:24.680 --> 01:13:30.979
 Und dann nachher sozusagen dem Patienten die Möglichkeit geben, das in der Therapiesitzung noch zu machen.

1323
01:13:30.979 --> 01:13:33.680
 Genau, dass erst mal geübt wurde, es überhaupt auszusprechen.

1324
01:13:35.279 --> 01:13:41.039
 Aber wir wissen auch aus Forschungen, dass Gespräche mit den Bots schon auch irgendwann verflachen.

1325
01:13:41.399 --> 01:13:47.159
 Oder dass eben auch die Erfahrung gemacht wurde, um es jetzt mal salopp auszudrücken, irgendwann wurde es langweilig,

1326
01:13:47.159 --> 01:13:51.159
 weil der Chatbot agiert ja von sich nicht proaktiv.

1327
01:13:51.899 --> 01:13:55.340
 Wenn ich nicht was eingebe, kommt er nicht nach drei Tagen

1328
01:13:55.340 --> 01:13:57.880
 und spricht mich auf irgendwas an, sondern das ist ja,

1329
01:13:58.359 --> 01:14:01.439
 es setzt immer meine eigene Aktivität voraus.

1330
01:14:02.039 --> 01:14:06.380
 Ja, und dass viele eben dann auch sagen,

1331
01:14:07.539 --> 01:14:10.279
 ja, auch dieser bestätigende

1332
01:14:10.279 --> 01:14:11.300
 Faktor,

1333
01:14:12.159 --> 01:14:13.859
 dass der dann

1334
01:14:13.859 --> 01:14:15.720
 letztendlich auch nicht mehr zur Weiterentwicklung

1335
01:14:15.720 --> 01:14:16.380
 beiträgt.

1336
01:14:20.119 --> 01:14:21.199
 Ich wollte noch

1337
01:14:21.199 --> 01:14:23.260
 kurz was sagen zu dem

1338
01:14:23.260 --> 01:14:28.359
 Gedanken, dass die Techniker ihre Produkte verstehen sollten.

1339
01:14:30.279 --> 01:14:37.899
 Und zwar, ich denke, dass einfach vielleicht die Technik da, dass ein Anspruch an die Technik ist, den man an andere Disziplinen nicht so hat.

1340
01:14:39.760 --> 01:14:45.640
 Zum Beispiel die Medizin, ich denke, da wird sehr viel heuristisch vorgegangen in diesem Feld.

1341
01:14:47.220 --> 01:14:48.159
 Und einfach,

1342
01:14:48.239 --> 01:14:49.859
 dass man sich von der Biologie

1343
01:14:49.859 --> 01:14:51.479
 sozusagen was abguckt,

1344
01:14:52.300 --> 01:14:53.640
 wie so eine

1345
01:14:53.640 --> 01:14:55.699
 Nervenzelle sozusagen aussieht,

1346
01:14:55.800 --> 01:14:57.500
 vernetzt ist, das versucht

1347
01:14:57.500 --> 01:14:59.500
 digital abzubilden,

1348
01:15:00.180 --> 01:15:01.819
 aber nicht ganz versteht,

1349
01:15:01.880 --> 01:15:02.960
 was da eigentlich passiert.

1350
01:15:03.739 --> 01:15:06.239
 Das ist mir sympathisch, muss ich sagen.

1351
01:15:06.720 --> 01:15:08.159
 Das ist mir eine sympathische Erkennung.

1352
01:15:09.020 --> 01:15:10.220
 Du bist auch ein Künstler.

1353
01:15:11.800 --> 01:15:14.720
 Also natürlich sagt man ja den Künstlern oft nach,

1354
01:15:14.819 --> 01:15:18.619
 dass sie nicht wissen, was sie tun genau und das auch nicht müssen.

1355
01:15:19.279 --> 01:15:21.840
 Also das sage ich jetzt mal so als Einwurf.

1356
01:15:22.460 --> 01:15:24.920
 Aber es kann einem natürlich sympathisch sein.

1357
01:15:27.619 --> 01:15:29.500
 Ja, das sind alles super Gedanken.

1358
01:15:29.619 --> 01:15:30.899
 Man könnte jetzt sehr viel dazu sagen,

1359
01:15:31.079 --> 01:15:33.819
 aber wenn ich jetzt mal hart auf dieser Kante draufbleibe,

1360
01:15:33.920 --> 01:15:36.260
 weil wir hatten ja vorhin über künstliche Intelligenz gesprochen.

1361
01:15:36.880 --> 01:15:39.520
 Das ist eine bestimmte Art von technischer Informationsverarbeitung,

1362
01:15:39.560 --> 01:15:40.739
 das, was ich am Anfang gesagt habe.

1363
01:15:41.460 --> 01:15:43.760
 Jetzt können wir natürlich Geschichten erzählen von einem Leibniz,

1364
01:15:43.880 --> 01:15:46.279
 der 1670 mit dem Binärcode angekommen ist.

1365
01:15:46.359 --> 01:15:47.060
 Da sind wir in der tiefsten

1366
01:15:47.060 --> 01:15:49.859
 fachübergreifenden Philosophie drin

1367
01:15:49.859 --> 01:15:51.939
 und man kann die ganzen KI-Geschichten ein bisschen in die Antike

1368
01:15:51.939 --> 01:15:53.960
 zurückerzählen. Will ich

1369
01:15:53.960 --> 01:15:56.159
 jetzt gar nicht machen, weiß nicht, ob das jetzt zu weit abschweift,

1370
01:15:56.260 --> 01:15:57.800
 aber jedenfalls sind das breite,

1371
01:15:57.939 --> 01:15:59.939
 tief verankerte Kulturgeschichten, so wie auch

1372
01:15:59.939 --> 01:16:01.880
 die Kulturgeschichten der Simulation

1373
01:16:01.880 --> 01:16:04.239
 weit reichen, also von Täuschungen

1374
01:16:04.239 --> 01:16:05.859
 von irgendwelchen Kobolden und Trollen,

1375
01:16:05.899 --> 01:16:07.840
 die eine mythologische Erzählung schon täuschen

1376
01:16:07.840 --> 01:16:10.600
 oder irgendwas simulieren oder von Betrügern und so weiter.

1377
01:16:11.180 --> 01:16:13.600
 Es gibt natürlich für relativ vieles, was wir jetzt digital machen,

1378
01:16:13.840 --> 01:16:16.199
 starke analoge Vorgeschichten, Vorbilder.

1379
01:16:16.260 --> 01:16:18.659
 Nur folgendes ist halt der Punkt jetzt zu sagen,

1380
01:16:18.720 --> 01:16:21.020
 man hat diese Ingenieurinnen-Technik, diese bestimmte Art,

1381
01:16:21.020 --> 01:16:23.100
 das, was wir jetzt KI nennen, ist eine bestimmte Art

1382
01:16:23.100 --> 01:16:24.939
 technologischer Informationsverarbeitung,

1383
01:16:25.300 --> 01:16:29.560
 die hochgradig durchmathematisiert ist. Dafür braucht man sehr viel Statistik und so weiter und so fort.

1384
01:16:29.880 --> 01:16:30.720
 Wir gehen gar nicht in die Details.

1385
01:16:31.239 --> 01:16:33.340
 Das ist eine bestimmte Art von einer Technologie.

1386
01:16:33.779 --> 01:16:36.819
 Und jetzt zu sagen, ich projiziere das zurück auf eine Bionik,

1387
01:16:37.279 --> 01:16:40.239
 das heißt ich baue bionisch irgendwas Organisches nach,

1388
01:16:40.239 --> 01:16:43.260
 ist eine ganz tolle Forschungsfrage, ist eine Forschungshoristik,

1389
01:16:43.539 --> 01:16:46.140
 hat viele Informatikerinnen und Informatiker auch geprägt,

1390
01:16:46.399 --> 01:16:48.039
 aber aus ethischer Sicht ist das grob

1391
01:16:48.039 --> 01:16:49.659
 fahrlässig. Also wenn ich mich wie bestimmte

1392
01:16:49.659 --> 01:16:51.920
 Sachbuchautorinnen jetzt hinstelle und

1393
01:16:51.920 --> 01:16:53.899
 sage, ich nehme diese Technik und ich rede über die so,

1394
01:16:53.960 --> 01:16:56.140
 als ob das ein organisches, wegen mir leibliches,

1395
01:16:56.260 --> 01:16:57.600
 wie auch immer lebendes Wesen wäre,

1396
01:16:57.920 --> 01:17:00.060
 ist rational nicht nachvollziehbar, macht sachlich

1397
01:17:00.060 --> 01:17:01.779
 keinen Sinn und erzeugt eine ganze Menge

1398
01:17:01.779 --> 01:17:03.720
 ethischen Kauderwelsch und eine ganze Menge an

1399
01:17:03.720 --> 01:17:05.979
 Fehlschlüssen und windschiefen Argumenten,

1400
01:17:06.239 --> 01:17:07.979
 wo wir uns überlegen sollten, ob wir uns die jetzt

1401
01:17:07.979 --> 01:17:10.000
 in dieser politischen Situation, die wir

1402
01:17:10.000 --> 01:17:11.859
 halt 2026 haben, leisten können

1403
01:17:11.859 --> 01:17:13.779
 in der Demokratie. Und da würde ich jetzt einfach

1404
01:17:13.779 --> 01:17:15.899
 ganz streng mal an der Seite sagen, zumindest

1405
01:17:15.899 --> 01:17:18.100
 für die Art KI, über die wir jetzt

1406
01:17:18.100 --> 01:17:20.079
 reden, macht das meiner Meinung nach

1407
01:17:20.079 --> 01:17:21.899
 aus ethischen, politischen Gründen relativ

1408
01:17:21.899 --> 01:17:23.899
 wenig Sinn. Ich werbe dafür,

1409
01:17:23.979 --> 01:17:25.260
 dass wir eine Debatte darüber führen,

1410
01:17:25.319 --> 01:17:27.539
 welche KI wir überhaupt wollen, welche Dienstleistungen,

1411
01:17:27.619 --> 01:17:30.000
 welche Spezialisierung oder Arten wir überhaupt wollen,

1412
01:17:30.060 --> 01:17:32.039
 um nicht immer nur auf etwas reagieren zu müssen,

1413
01:17:32.140 --> 01:17:34.180
 was uns von irgendwelchen Leuten hingeworfen wird,

1414
01:17:34.319 --> 01:17:37.880
 die sicherlich auch manchmal sehr gute Interessen verfolgen.

1415
01:17:37.939 --> 01:17:38.859
 Ich will das nicht alle schlechtreden.

1416
01:17:39.340 --> 01:17:42.539
 Aber wo zumindest auch eine gewisse, ich sage es jetzt ganz sanft,

1417
01:17:42.539 --> 01:17:47.279
 eine gewisse Unschärfe drin ist, wasen, was durch solche Tools dann ausgelöst wird.

1418
01:17:48.380 --> 01:17:48.939
 Ja, Punkt.

1419
01:17:49.479 --> 01:17:51.920
 Ich finde, das ist ein guter Gedanke, aber das ist ein neuer Gedanke.

1420
01:17:56.840 --> 01:17:58.380
 Und es ist ein neuer Gedanke.

1421
01:18:00.960 --> 01:18:03.720
 Also ich wollte noch vorher zur Therapie was sagen.

1422
01:18:11.140 --> 01:18:12.239
 Also ich wollte noch vorher zur Therapie was sagen, dass es eben mehr eine stützende Therapie ist, aber das ganze Konstrukt, Konstruktive fällt weg.

1423
01:18:27.560 --> 01:18:34.199
 Und das ist ein wichtiger Bestandteil und eben, dass es eben keine korrigierende Beziehungserfahrung gibt sondern dass ich meine weil ich meine zu dingen haben wir menschen immer schon eine beziehung ja man muss nur schauen was die bedeutung des autos für viele das ist

1424
01:18:34.199 --> 01:18:39.819
 für viele eine unheimlich wichtige beziehung ja oder das haus ja also zu dingen gibt es immer

1425
01:18:39.819 --> 01:18:46.520
 schon beziehungen also da ist ja das zu kein nicht so ein großer Unterschied. Das ist ja letztlich

1426
01:18:46.520 --> 01:18:47.720
 auch fast ein Ding.

1427
01:18:48.859 --> 01:18:49.100
 Oder?

1428
01:18:50.000 --> 01:18:51.899
 Ja, Sie haben recht und es wird eben auch,

1429
01:18:51.960 --> 01:18:53.600
 das haben wir in unserem Buch auch gemacht,

1430
01:18:53.920 --> 01:18:55.859
 geschaut, inwiefern denn die KI

1431
01:18:55.859 --> 01:18:58.300
 kompatibel ist mit verschiedenen

1432
01:18:58.300 --> 01:19:00.380
 Therapieschulen. Und da ist

1433
01:19:00.380 --> 01:19:02.600
 die Sicherung für die Verhaltenstherapie

1434
01:19:02.600 --> 01:19:04.539
 sozusagen eher nutzbar.

1435
01:19:04.800 --> 01:19:10.699
 Es ist eher standardisiert, operationalisiert, modularisiert im Vorgehen.

1436
01:19:11.079 --> 01:19:13.340
 Dann gibt es aber auch einen französischen Kollegen,

1437
01:19:13.680 --> 01:19:16.819
 der hat das für dezidiert psychoanalytische Konzepte geprüft.

1438
01:19:17.020 --> 01:19:18.319
 Was kann denn die KI?

1439
01:19:18.460 --> 01:19:21.140
 Was ist denn mit den zentralen psychoanalytischen Konzepten

1440
01:19:21.140 --> 01:19:26.960
 wie Übertragung, Gegenübertragung, freischwebende Aufmerksamkeit und so weiter, was es alles gibt,

1441
01:19:27.319 --> 01:19:29.000
 Deutungen, Umgang mit Widerstand.

1442
01:19:29.560 --> 01:19:32.079
 Und da stößt es sehr schnell an die Grenzen.

1443
01:19:35.220 --> 01:19:38.279
 Ich wollte noch eine Bemerkung machen zu dem letzten Kommentar,

1444
01:19:38.340 --> 01:19:40.180
 dass wir uns überlegen müssen, was wir brauchen.

1445
01:19:41.300 --> 01:19:43.659
 Aber war der Markt nicht immer so, dass wir erst wussten,

1446
01:19:43.760 --> 01:19:52.380
 dass wir es brauchen, wenn wir es bekommen haben? Das hat doch viele Sachen ausgezeichnet, die sich dann schnell

1447
01:19:52.380 --> 01:19:59.380
 verbreitet haben, von iPhone und was auch immer angefangen, dass wir nicht gesagt haben,

1448
01:19:59.380 --> 01:20:07.560
 wir brauchen das, sondern man hat es uns gegeben und gesagt, oh super, das brauchen wir. Wer bestimmt, was wir brauchen oder wer überlegt, was wir brauchen?

1449
01:20:10.859 --> 01:20:13.039
 Ja, die Wahrheit liegt wahrscheinlich wie immer irgendwo in der Mitte,

1450
01:20:13.239 --> 01:20:16.960
 aber es gibt ja nicht ohne Grund diesen Begriff der sozialen Zwänge

1451
01:20:16.960 --> 01:20:18.000
 oder der Sachzwänge.

1452
01:20:18.159 --> 01:20:21.199
 Hey, ich habe ein Auto, hey, ich kann ständig mobil sein,

1453
01:20:21.279 --> 01:20:22.260
 ich habe einen Führerschein, ja.

1454
01:20:22.760 --> 01:20:24.680
 Ups, jetzt muss ich es auf einmal, wie ich für einen Job,

1455
01:20:24.779 --> 01:20:25.539
 oh Gott, jetzt brauche ich

1456
01:20:25.539 --> 01:20:27.880
 was, ich habe gar kein Smartphone,

1457
01:20:27.979 --> 01:20:29.220
 kriege ich jetzt einen Job auf einmal?

1458
01:20:30.119 --> 01:20:31.960
 Dann kippt das um auf einmal.

1459
01:20:32.180 --> 01:20:34.060
 Das ist natürlich schon die Chance, die man

1460
01:20:34.060 --> 01:20:35.939
 in der Demokratie hat. Also ich halte jetzt stolz

1461
01:20:35.939 --> 01:20:37.960
 mein Tastenhandy hoch, falls man das im Stream nicht sieht.

1462
01:20:38.399 --> 01:20:40.039
 Ich bekenne mich dazu, ich habe noch nie ein Smartphone gehabt.

1463
01:20:41.279 --> 01:20:42.180
 Jedenfalls, aber das ist ja

1464
01:20:42.180 --> 01:20:43.979
 die Chance, die wir in der Demokratie haben.

1465
01:20:44.100 --> 01:20:45.220
 Das, was Demokratien am Leben hält, das, was Demokratien, zumindest die modernen wir eine demokratie haben das was demokratien am

1466
01:20:45.220 --> 01:20:49.720
 leben hält das was demokratien zumindest die modernen die neueren arten von demokratien

1467
01:20:49.720 --> 01:20:56.119
 ja eigentlich herausgezeichnet hat dass man hier verhandlungsraum für zukunft eröffnet dass wir

1468
01:20:56.119 --> 01:21:02.319
 quasi darüber verhandeln können welche erwartungen welche lebenswirklichkeiten wir für unsere kinder

1469
01:21:02.319 --> 01:21:07.539
 und kindeskinder schaffen dass da auch manches schiefläuft und dass man da vielleicht auch das eine oder andere Mal

1470
01:21:07.539 --> 01:21:10.000
 von marktwirtschaftlichen Mechanismen hin und her gerüttelt wird.

1471
01:21:10.100 --> 01:21:12.579
 Gut, das ist halt so. Ich will jetzt gar nicht in die Details gehen.

1472
01:21:13.060 --> 01:21:14.899
 Aber hier geht es ja vor allem auch darüber, mal zu sagen,

1473
01:21:15.000 --> 01:21:18.159
 naja, jetzt wird ständig diskutiert, wir haben irgendwie Krisen von,

1474
01:21:18.439 --> 01:21:20.619
 Entschuldigung, dass ich das große Geostrategische wieder aufmache,

1475
01:21:20.619 --> 01:21:26.100
 aber es ist halt einfach so, dass jetzt reden wir über irgendwelche KI-Systeme, die nicht in Europa

1476
01:21:26.100 --> 01:21:27.960
 trainiert und hergestellt wurden, die

1477
01:21:27.960 --> 01:21:29.979
 bestimmten Interessen folgen, wo es politische

1478
01:21:29.979 --> 01:21:31.979
 Erzählungen gibt, die nicht aus Europa

1479
01:21:31.979 --> 01:21:34.079
 stammen und jetzt überlegt man noch, ob wir die noch für Leute

1480
01:21:34.079 --> 01:21:36.199
 in der Psychotherapie einsetzen.

1481
01:21:36.500 --> 01:21:37.680
 Das ist doch ein Skandal.

1482
01:21:38.140 --> 01:21:40.000
 Also wie weit lassen wir denn irgendwelche Player

1483
01:21:40.000 --> 01:21:42.340
 außerhalb Europas in unsere Gesellschaften reinwirken?

1484
01:21:42.779 --> 01:21:44.020
 Das Experiment haben wir

1485
01:21:44.020 --> 01:21:46.159
 in unseren Schulen laufen mit unseren Kindern und Jugendlichen.

1486
01:21:46.640 --> 01:21:49.880
 Also eine hochfragile, schutzwürdige Bevölkerungsgruppe eigentlich.

1487
01:21:50.319 --> 01:21:52.079
 Und jetzt gehen wir noch in Menschengruppen rein,

1488
01:21:52.140 --> 01:21:53.100
 wo Menschen Hilfe brauchen.

1489
01:21:55.699 --> 01:21:58.199
 Letzter Punkt dazu, weil da hinten kam das Argument,

1490
01:21:58.659 --> 01:22:00.920
 natürlich, aber was ist, wenn Menschen Hilfe brauchen

1491
01:22:00.920 --> 01:22:03.800
 und wir müssten irgendwas anbieten können,

1492
01:22:04.060 --> 01:22:06.159
 weil es halt vielleicht nicht genug Therapieplätze

1493
01:22:06.159 --> 01:22:08.159
 gibt. So, da kann man

1494
01:22:08.159 --> 01:22:10.039
 eine ethische Argumentation anfangen, das ist ja

1495
01:22:10.039 --> 01:22:11.739
 nichts anderes als eine unterlassene Hilfeleistung,

1496
01:22:12.020 --> 01:22:13.500
 wenn es die Evidenz dafür gibt, dass wir

1497
01:22:13.500 --> 01:22:15.739
 vertrauenswürdige Tools haben und wir

1498
01:22:15.739 --> 01:22:18.119
 ungefähr halbwegs nachvollziehen können, wo die herkommen

1499
01:22:18.119 --> 01:22:20.239
 und nachvollziehen können, wie die funktionieren.

1500
01:22:20.300 --> 01:22:21.640
 Das ist einfach die Transparenz oder

1501
01:22:21.640 --> 01:22:23.920
 Erklärbarkeit und wir können damit

1502
01:22:23.920 --> 01:22:26.100
 zumindest als Spezialanwendungen,

1503
01:22:26.180 --> 01:22:28.479
 nicht als eine generelle KI, die mir die ganze Welt erklärt,

1504
01:22:28.800 --> 01:22:30.039
 aber die spezialisiert ist.

1505
01:22:30.100 --> 01:22:32.539
 Was anderes war ja, Elisa ja auch nicht vom Weizenbaum,

1506
01:22:32.819 --> 01:22:35.779
 ein spezialisierter Chatbot, ein sogenanntes ExpertInnen-System.

1507
01:22:36.260 --> 01:22:38.659
 Und ich sage, ich kann das für diesen konkreten Case anwenden

1508
01:22:38.659 --> 01:22:42.439
 und das hat einen Effekt, gut fair enough.

1509
01:22:42.579 --> 01:22:45.539
 Also warum soll ich einen positiven Effekt in der Gesellschaft,

1510
01:22:45.619 --> 01:22:48.199
 wenn ich den irgendwie nachweisen kann, nicht anwenden?

1511
01:22:48.300 --> 01:22:49.840
 Dann wäre es eine Art unterlassene Hilfeleistung.

1512
01:22:50.060 --> 01:22:53.840
 Dann haben wir eine ethische Diskussion, die setzt aber genauso voraus, was wir in der Gesellschaft wollen

1513
01:22:53.840 --> 01:22:57.239
 und nicht, was wird uns hergeworfen und wo können wir irgendwo noch einen Schnipsel finden,

1514
01:22:57.640 --> 01:23:00.039
 den wir jetzt positiv für uns als Gesellschaft verwerten können.

1515
01:23:00.840 --> 01:23:02.140
 Wenn ich mal ein bisschen provozieren darf.

1516
01:23:04.220 --> 01:23:08.399
 Ja, also eine Analogie sind für mich die sozialen Medien natürlich,

1517
01:23:08.960 --> 01:23:11.100
 wo natürlich anscheinend haben wir es gewollt,

1518
01:23:11.579 --> 01:23:12.920
 aber jetzt haben wir irgendwie gemerkt,

1519
01:23:13.300 --> 01:23:15.600
 ich denke mir, zum Glück ist meine Tochter erst drei,

1520
01:23:16.199 --> 01:23:18.060
 also wenn sie dann so groß ist,

1521
01:23:18.079 --> 01:23:20.060
 weiß man, dass es genauso schlecht ist wie Zigaretten

1522
01:23:20.060 --> 01:23:24.439
 und dass man das Kindern nicht mit zwölf sozusagen gibt.

1523
01:23:25.020 --> 01:23:26.640
 Vielleicht ist es mit den Chatbots ähnlich.

1524
01:23:26.859 --> 01:23:30.000
 Also manchmal gibt es ja dann doch sozusagen das Nachjustieren.

1525
01:23:30.680 --> 01:23:33.079
 Also die Leute wollen was und dann merken sie,

1526
01:23:33.779 --> 01:23:36.920
 dass sie das nicht wollen sollten, was sie wollen.

1527
01:23:37.739 --> 01:23:40.979
 Vielleicht ist es in manchen in diesen Dingen dann auch noch so.

1528
01:23:40.979 --> 01:23:46.399
 Ja, wir sind jetzt schon 90 Minuten unterwegs.

1529
01:23:46.619 --> 01:23:48.140
 Es ist auch ein

1530
01:23:48.140 --> 01:23:50.199
 junger Mann hier. Ich habe versprochen, wir werden

1531
01:23:50.199 --> 01:23:51.800
 ungefähr 90 Minuten sprechen.

1532
01:23:53.359 --> 01:23:53.920
 Ich würde

1533
01:23:53.920 --> 01:23:54.840
 eigentlich gerne

1534
01:23:54.840 --> 01:23:56.960
 das abschließen.

1535
01:23:57.720 --> 01:24:00.239
 Vielleicht die eine oder andere kann noch da bleiben.

1536
01:24:01.239 --> 01:24:02.119
 Können noch was trinken

1537
01:24:02.119 --> 01:24:04.319
 gemeinsam, da noch ein bisschen weiter diskutieren.

1538
01:24:06.760 --> 01:24:12.300
 Wir haben wie immer einige themen aufgemacht nicht so kompletten befriedigung natürlich diskutieren können aber

1539
01:24:12.300 --> 01:24:20.579
 hoffentlich gelegenheit in verschiedene richtungen nachzudenken neue gedanken formuliert vielen dank

1540
01:24:20.579 --> 01:24:30.039
 auch wieder für für die tollen kommentare dassiener KI-Gespräche scheinen irgendwie ein großartiges Publikum anzuziehen.

1541
01:24:31.439 --> 01:24:35.500
 Also kommen Sie auch gerne zur nächsten Edition wieder.

1542
01:24:36.500 --> 01:24:39.739
 Vielen Dank ans Depot und an Sie alle und an euch natürlich.

1543
01:24:39.880 --> 00:00:00.000
 Danke, schönen Abend.