Herzlich willkommen an diesem verregnet-winterlichen Dienstagvormittag bei einer weiteren Ausgabe der Sendereihe Wassermeyer sucht den Notausgang hier aus dem Studio von DorfTV in der Coworking Gemeinschaft Hauptplatz 23 im Zentrum von Linz. Ja, wenn wir zurückblicken in das Jahr 2020, so stehen wir bis heute doch sehr deutlich unter dem Eindruck der Corona-Pandemie, wo wir doch in den vergangenen Monaten eine ganze Menge auch dystopischer Momente erleben mussten. Umso mehr richtet sich aber auch in der allgemeinen Wahrnehmung jetzt auch der Blick in Richtung Zukunft, wie es denn weitergehen soll. Und damit sind wir auch schon inmitten einer Diskussion, die gar nicht genug Aufmerksamkeit finden kann, nämlich die Diskussion um die technologische Entwicklung in Richtung Zukunft. Vor allem auch da, wo sie uns Chancen bringt, aber natürlich auch, wie viele befürchten, auch Gefahren. Und damit sind wir auch schon inmitten der heutigen Sendung meiner Gespräche zu Politik und Kultur in Krisenzeiten, wo ich einen ganz besonderen Gast willkommen heißen darf. Vielen Bekannten aus Funk, Zeitung und Fernsehen. Martina Mara, bekannte Medien- und Roboterpsychologin, so wie man sie kennt. Herzlich willkommen, Frau Mara. Ich freue mich, dass Sie sich heute Zeit genommen haben, so kurz vor Weihnachten. Ja, hallo, danke für die Einladung und für diese diebenhafte Intro. Da kann ich noch eins draufsetzen, denn ich habe für all jene, die nicht ganz so viel Bescheid wissen, auch noch einen kurzen biografischen Ausdruck zu Ihrer Person. Ich darf Sie also ganz kurz vorstellen. Sie haben in Wien Kommunikationswissenschaften studiert und an der Universität Koblenz-Landau zur Nutzerakzeptanz menschenähnlicher Maschinen in Psychologie promoviert. Ars Electronica Future Lab, wurden Sie im April 2018 als Professorin für Robo-Psychologie an das Linzer Institute of Technology der Johannes Kepler Universität berufen und sind auch Mitglied, das ist ganz wesentlich auch für die weitere Diskussion, Sie sind auch Mitglied des Österreichischen Rats für Robotik und Künstliche Intelligenz und Vorstandsmitglied der Ludwig-Boltzmann- Gesellschaft. Das heißt, das weißt du... Ich will mehr sehr kurz, aber da muss man mal wieder updaten, was da so online steht. Ich habe das tatsächlich in meinem blinden Vertrauen an die Technologie übrigens dem Internet entnommen, aber vielleicht sind wir dann auch schon bei dem, worüber wir sehr viel noch reden werden. Wir haben 50 Minuten, Frau Mara. Ich möchte auch mit Ihnen ganz gern, wie so oft in meiner Sendereihe, mit einer sehr persönlichen Frage beginnen, nämlich künstliche Intelligenz, Artificial Intelligence ist vielerorts in aller Munde. Vielfach wissen die Leute aber gar nicht, wovon da eigentlich die Rede ist, beziehungsweise inwieweit sie das schon im eigenen persönlichen Alltag betrifft. Ich vermute mal, dass eine der häufigsten Begegnungen ist im eigenen Wohnzimmer oder vielleicht auch anderswo im Eigenheim, wenn man zu tun hat mit der sogenannten Alexa, der persönlichen Sprachassistentin oder dem Sprachassistenten von Amazon, mit dem man ja kommunizieren kann. dass Sie etwa eine Musikauswahl im Wohnzimmer treffen durch das persönliche Gespräch mit Alexa, beziehungsweise wie weit Sie bei Ihrer Kommunikation mit dieser Technik gehen und wo Sie persönlich eine Grenze setzen? Also ja, ich nutze sowohl Siri, Siri ist bei mir im Übrigen schon seit langem auf männlich umgestellt aus Gründen, die wir vielleicht später noch diskutieren und auch Alexa genau für zwei Aufgaben in unserem Familienkreis und das eine ist als Jukebox quasi Leader wünschen, wie das glaube ich bei vielen so ist und das zweite ist der Küchentimer. Also das was ich an diese großen Tech-Unternehmen preisgebe, ist einerseits vielleicht, wie lange ich die Spaghetti koche, dass sie al dente sind und das zweite, dass meine Tochter besonders gern Rudolf the Red Nosed Reindeer hört und sich wünscht. Aber ich muss ganz ehrlich sagen, wir bemühen uns tatsächlich, dass wir Alexa immer wieder ausstecken nach dem Gebrauch. Also dass wir es wirklich aktiv einstecken fürs Musikwünschen, fürs Kochen und dann wieder ausstecken. Und wenn wir es vergessen, dann ärgere ich mich ehrlich gesagt darüber, weil natürlich die Dinge immer mithören. Ich vermute mal, dass auch Sie sich bei der Anschaffung dieser Technologie jede Menge Gedanken gemacht haben. Was waren die Vorrangigsten dabei? Gar keine Gedanken, weil ich kriege sowas häufig geschenkt oder zum Testen irgendwie geliefert. Also es ist mir einfach mal, ich habe mal so ein Echo Dot, quasi die Hardware zu Alexa bekommen und wir haben es dann einfach ausprobiert. Tatsächlich muss ich sagen, ich weiß nicht, ob ich mir das selbstständig angeschafft hätte, weil ich den Nutzen durch diese Assistenzsysteme bis dato nicht so groß sehe, dass mir das einen wesentlichen Vorteil verschaffen würde. Also ich sehe es momentan noch eher im Entertainment-Bereich angesiedelt. Wie gesagt, der Küchentimer ist vielleicht ganz nützlich. Aber ich warte darauf, dass diese KI-Systeme irgendwann mal wirklich so schlau werden, dass sie mir zum Beispiel meinen Kalender ordentlich organisieren können. Nämlich so, dass auch Freiräume für Familienleben zum Beispiel entstehen oder Termine effizient geplant werden. Das wäre zum Beispiel so ein Asset, das ich mir wünschen würde, aber das haut leider momentan noch nicht so hin, wie es manchmal versprochen wird. Ich habe diese Frage ganz zu Beginn sehr bewusst gestellt, weil Sie gelten ja gemeinhin als Expertin auch sozusagen in der Auseinandersetzung, in der Beschäftigung mit Technologieentwicklung. Aber es ist ein sehr interessantes Anschauungsbeispiel auch ganz allgemein für das Verhältnis des Menschen zu Technologie, zu Maschinen. Das ist ja etwas, was ja die Menschheitsgeschichte immer schon sehr, sehr fasziniert hat in all ihren Ambivalenzen. sehr, sehr fasziniert hat in all ihren Ambivalenzen. Einerseits diese große Begeisterung, dass gerade auch mit technologischer Entwicklung etwa gesellschaftlicher Fortschritt möglich ist, aber gleichzeitig auch natürlich immer diese Verteufelung, Angst davor, dass gerade mit der Technologie etwas Fremdes über uns hereinbricht. Ich erinnere nur ja auch hier in Oberösterreich an den Einzug der Eisenbahn im 19. Jahrhundert. Da hat es ja enorme gesellschaftliche Konflikte gegeben, weil viele auch das Schlimmste befürchtet haben, wenn die Eisenbahn auch nur im eigenen Dorf hält. Wie lässt sich Ihrer Meinung nach dieses Verhältnis des Menschen zur Maschine beschreiben. Ist das tatsächlich etwas, wo das Individuum, der Mensch, die Oberhand behält und tatsächlich sagt, wir schaffen das irgendwie schon, hier quasi die Paradigmen und die Zielrichtung auch für Technologie vorzugeben oder sind wir eigentlich der maschinellen Entwicklung schon längst unterworfen? Also die maschinelle Entwicklung, Roboter, KI-Systeme sind ja grundlegend einmal nichts, was uns Aliens irgendwie auf die Erde werfen und wir sind dem dann alle ausgeliefert und müssen damit umgehen, sondern grundsätzlich muss man schon mal sagen, Technologie ist ja immer was Mensch gemachtes. Also irgendwer macht das ja, gestaltet das. Das geht natürlich mit ganz vielen Fragen einher. Mit welchen Zwecken und Zielen werden Technologien entwickelt? Von wem? Von wem nicht? Was macht es mit welchen Menschen? Wer kann es nutzen? Unter welchen Bedingungen? Und so weiter. Aber ich glaube, eben aus diesen Gründen kann man die Frage natürlich wie so oft nicht völlig allgemeingültig beantworten. Also es gibt natürlich Menschen, die sehr eigenmächtig auch neue Technologien mitgestalten. Und ich glaube, eine zentrale Frage momentan muss sein, wie man Technologieentwicklung noch stärker vielleicht demokratisieren kann, wenn man das so sagen möchte, als das heute der Fall ist. Wir sehen in der Forschung ganz klar, dass auch Ängste, die Sie angesprochen haben gerade und die ja uralt sind, die mit vielen neuen Dingen, die in die Welt kommen, immer auch wieder auftreten, Ängste vor Robotik, vor künstlicher Intelligenz, über alle anderen Faktoren hinweg, vor allem auch mit dem Gefühl zu tun haben, dass man sich da drin selbst nicht kompetent fühlt. Also zu wenig mitgestalten kann, zu wenig darüber weiß, zu wenig die Dinge selber bedienen kann, für sich nutzen kann. Und da sehe ich momentan einen ganz wichtigen Dreh- und Angelpunkt, dass sich auch die Branche selbst, wir sozusagen, uns mehr bemühen müssen, dass wir mehr Technologiekompetenz in die Breite tragen und dass der Diskurs darüber damit auch hoffentlich ein bisschen weniger passiv und angstbesetzt und vermeidend wird, sondern mehr Leute dazu angeregt werden und dazu befähigt werden, mitzugestalten, damit man eben positive Szenarien schafft. Momentan, wo wir jetzt wirklich in Richtung Höhepunkt auch der Pandemieentwicklung global kommen, ist ja für alle unübersehbar auch eine massive Kritik. Die Proteste, die ja auch mit sehr, sehr vielen, sehr diffusen Ängsten verbunden sind. Ein Stichwort greife ich heraus, dass ja Leute glauben, wenn geimpft wird, dass uns da irgendwie von Bill Gates angeordnet ein Chip eingepflanzt wird, der uns ja alle zu Cyborgs macht, also auch sozusagen zu Objekten einer künstlichen Intelligenz, die dann mit uns tut und lässt, was immer sie will. Das ist natürlich ein sehr, sehr verwegender Gedanke und als Blödsinn abzutun. Aber dennoch, es spricht schon eine Furcht auch an. Ist das auch vielleicht darauf zurückzuführen, dass Technologieentwicklung immer auch gewissen Eliten vorbehalten ist? Sie haben es ja selber angesprochen, die Frage der Demokratisierung, dass wir da eigentlich auch reden müssen von der Demokratisierung des Wissens darüber. Auf jeden Fall, genau. Also ich bin mir nicht ganz sicher, inwiefern das jetzt mit diesen klassischen Verschwörungsnarrativen Hand in Hand geht, die ja alle, also ich bin mir nicht ganz sicher, möchte ich sagen, ob dieses Szenario, dass man mit der Impfung irgendeinen Chip implantieren bekommt, ob das so stark aus der Technologieangst herauskommt. Weil bei Verschwörungsnarrativen sehen wir ja sehr klare Strukturen, die sind ja alle so in Schwarz-Weiß-Denken aufgebaut, wo es immer eine im Dunklen agierende böse Macht gibt, die irgendwas mit uns tut. Das sind aber dann meistens menschliche Organisationen, die da dahinter vermutet werden. Das ist ein eigenes Problem. Das andere ist also ja, ganz klar, wir müssen mehr Wissen schaffen. Ich beobachte, dass jetzt auch international zunehmend zum Beispiel von AI Literacy gesprochen wird, also dass künstliche Intelligenz oder der Umgang mit Daten, weil die künstliche Intelligenz, die momentan so gehypt wird und über die wir ständig hören, zu wenig erklärend hören, ist ja eigentlich Datenanalyse, also große, große Datenmengen und Statistik dazu. Also große, große Datenmengen und Statistik dazu. Wenn man das als eine Art mögliche Kulturtechnik betrachtet, mit der eigentlich viele Menschen was anfangen könnten, wenn sie es mit ihren Domänen und ihrem Berufs- und Alltagsleben verbinden, dann ist es einfach ganz wichtig, dass man da mehr vermittelt, dass man das in die Schulen reinbringt, dass man aber auch Leute in ganz unterschiedlichen Berufssparten ein bisschen mehr Grundwissen darüber vermittelt und dass man endlich mal aufhört mit dieser Mystifizierung von neuen Technologien. Weil wir hören und lesen ja ständig über neuronale Netze und kognitive Roboter und Androide-Roboter und selbstlernende Systeme zum Beispiel. Und was die Leute darunter vorstellen, wenn man das nicht mehr erklärt, ist irgendwie der menschengleiche Roboter, der irgendwie in Linz durch die Straßen wandelt und auf magische Weise aus dem Äther lernt. Und das ist natürlich vollkommener Blödsinn. Genau, und es gibt eigentlich mehr Möglichkeiten, als man denkt, mit einfachen KI-Systemen selbst vielleicht auch schon etwas zu machen und das muss man jetzt ganz dringend stärker vermitteln. Jetzt eine vielleicht fiktive Frage, wie lang wird es Ihrer Meinung nach dauern, dass ich in meiner Senderei hier einen Roboter eines Tages schon einladen kann? Also das können Sie jetzt schon tun, wenn Sie gern möchten. Es haben sich Firmen international darauf spezialisiert, Roboter, die so ähnlich ausschauen wie Menschen, zu vermieten für Firmen-Events, für Konferenzen. Wenn Sie irgendwie zwischen 10.000 und 100.000 Euro auf der Seite haben, dann können Sie sich die androide Roboter-Dame Sophia von Hansen Robotics zum Beispiel in die Sendung einladen und die sitzt dann da, schaut aus, ihren Entwicklern zufolge, halb wie Audrey Hepburn, halb wie die Ehefrau vom Erfinder des Roboters und mit der können Sie dann ein Interview führen. wie die Ehefrau vom Erfinder des Roboters und mit der können sie dann ein Interview führen. Das geht. Und das Schlimme ist aber, damit wird natürlich wieder vermittelt, oh, da sitzen jetzt Roboter auf der Bühne und die sagen dann so Dinge wie, also ich würde mir auch wünschen, eines Tages zu heiraten und eine Familie zu gründen. Und beim Publikum kommt an, okay, jetzt sind wir wirklich angekommen im Science-Fiction-Film, den ich irgendwie vor ein paar Jahren noch gesehen habe. Und in Wahrheit ist es so, dass sie zwei bis drei Wochen vor dem Event den Dialog an die Firma schicken müssen. Das wird dann brav reingetippt ins System und dann wird im Hintergrund das Knopfheil gedrückt, immer dann, wenn es gerade im Interview passt. Und das ist auch so ein Punkt, also da vermehre ich mich wahnsinnig dagegen, weil ich merke, was das mit den Menschen macht, wenn ihnen vorgetäuscht wird, dass es da quasi menschengleiche Roboter schon gäbe. Das ist mir eigentlich schon sehr weit entgegengekommen, darüber bin ich sehr froh, denn natürlich habe ich meine Frage ein bisschen spitzfindiger intendiert. Es ist heute die 31. Ausgabe in dieser Senderei und interessanterweise waren in diesen 31 Ausgaben bisher nur Frauen zu Gast. Das ist mir aufgefallen natürlich. Und jetzt jetzt, wenn ich mir mal vorstelle, ich könnte da sozusagen so ein künstliches Wesen, ein Robot hier zu mir ins Studio laden, mit welchem Mindset habe ich es denn dann zu tun? Es ist Voraussetzung, hier eingeladen zu werden, doch eine gewisse gesellschaftskritische Haltung mitzubringen, sehr wohl auch etwa eine feministische Gesinnung mitzubringen und inwieweit wird das dann durch eine solche Sophia eingelöst? Und ich frage das auch deshalb, weil es hat ja irgendjemand diese Sophia konstruiert und geschaffen und soweit ich das immer in meinem Leben verstanden habe, erfolgt Technologieentwicklung fast ausschließlich unter männlichen Paradigmen, unter einem männlich kodierten Mindset. Ja, also das ist momentan nach wie vor auch ein Problem, das intensiv diskutiert wird seit einigen Jahren, auch gerade in der, was die geschlechterspezifische Entwicklung oder das Design von Robotern oder auch KI-Assistenzsystemen anbelangt. Es ist ja vielleicht nicht unbedingt ein Zufall, dass diese 24-7-Sekretärinnen, die man jetzt im Wohnzimmer, in der Küche oder vielleicht auch im Schlafzimmer herumstehen hat oder am Handy drauf hat, vielleicht auch im Schlafzimmer herumstehen hat oder am Handy drauf hat, Alexa, Siri, wir haben es ja schon angesprochen, fast alle weiblich konnotiert sind. Also weibliche Namen haben, Siri ist ein weiblicher skandinavischer Name beispielsweise, weibliche Stimmen haben einem sehr tradierten, passiven Wunscherfüllungsschema sozusagen folgen und eben gleichzeitig als weibliche Figuren wahrgenommen werden. Das ist ein Problem, weil wir in der Forschung, also es fehlen uns noch die Langzeitstudien dazu, was das mit den Menschen macht, aber es gibt natürlich die Annahme, dass sich dadurch potenziell Muster, Schema da einlernen können. Also jetzt konkret gesagt, wenn man da mit weiblichen Figuren zu tun hat, denen man sozusagen ohne Bitte und Danke jederzeit anschaffen kann, dass sie in Corona-Zeiten vielleicht, keine Ahnung, eine Großpackung Kloberbier aus dem Internet bestellt. eine Großpackung Klopapier aus dem Internet bestellt. Und wir ja auch wissen, dass wir Menschen automatisch dazu neigen, Computersysteme, wenn sie menschliche Features haben, auch zu vermenschlichen, also darin sozusagen ganz automatisch menschliche Eigenschaften zu erkennen, dass das dann wieder zurückwirkt eben. Also das potenziell da ganz alte Rollenmuster zwischen Männern und Frauen über den Weg der Technologie wieder Einzug nehmen und potenziell auch wieder auf die Mensch-Mensch- Beziehungen sozusagen übertragen werden. Da hat es jetzt in den letzten Jahren wahnsinnig viel Kritik auch in Richtung der Hersteller gegeben. Man muss sich vorstellen, vor zwei Jahren noch hat Alexa oder Siri, ich weiß es nicht mehr, ein Systeme, auf die Frage, Alexa, willst du Sex? Und die kommt ja häufiger vor, als man meinen möchte, geantwortet scheinbar schelmisch, so eine Art von Assistentin bin ich nicht. Und das ist vielleicht in der ersten Sekunde witzig, aber in der zweiten Sekunde muss man sagen, ja okay, das impliziert aber dann, dass es irgendwo anders schon diese Art von Assistentinnen gibt, die offen wären für sowas. Und ja, mittlerweile hat sich ein bisschen was getan. Also Alexa bezeichnet sich ja mittlerweile als Feministin aus der Steckdose, nachdem es viel internationale Kritik gab. Und das ist aber auch ein Beispiel, das für mich zeigt, dass es wichtig ist, Kritik zu äußern und dass teilweise zumindest dann die Hersteller schon darauf reagieren. Ich finde das insofern interessant, weil irgendwie bei Ihren Ausführungen jetzt ist bei mir so auch ein Bild im Kopf aufgepoppt, eben dieses Beziehungsverhältnis von Master and Servant, der sich ja hier genau wieder widerspiegelt. Einerseits könnte man es so lesen, als wäre das ein Rechtfertigungsmuster. Der Mensch wird schon seine Autonomie wahren und wird immer den Maschinen erklären, wo es lang geht. Gleichzeitig aber habe auch ich bei meinen Recherchen sehr interessiert festgestellt, dass wir ja alle aktuell und das ist unbestritten, einen Pflegenotstand erleben und die Hoffnung groß ist, auch durch die Robotik viele Leerstellen und das Vakuum auch in der Pflege füllen zu können. Aber auch da heißt es in einer ergänzenden, dienenden Funktion. Jetzt frage ich mich, wenn das tatsächlich so kommen sollte oder auch das, was hier eigentlich vermittelt wird, das Problem der fast ausschließlich weiblichen Pflegekräfte ja überhaupt nicht nützt, nämlich ordentliche Bezahlung und eine gewisse Emanzipation? Also ja, eine ordentliche Bezahlung wäre sowieso nötig für viele dieser Bereiche. Wenn wir jetzt über den Bereich Pflegerobotik reden wollen zum Beispiel, ich meine, das ist ein Bereich, über den viel diskutiert wird, also wo auch, glaube ich, viele Menschen ein Bild dazu im Kopf haben und dieses Bild ist ja meistens auch wiederum eines, wo eine menschengleiche Maschine irgendwie so am Bett von der Oma steht und ihr dann so den Arm tätschelt und, weiß nicht, so Gesichtserkennung, Emotionserkennung, Datenanalyse. Ah, die Oma ist acht von zehn gerade melancholisch oder traurig. Na, dann spielen wir irgendwie an Freddy Quinn, keine Ahnung. Ich glaube, von diesen Bildern müssen wir echt wegkommen und das ein bisschen konstruktiver betrachten. Es gibt im Pflegebereich, ich habe mir das einmal angeschaut, auch im Zuge von Recherchen für ein Forschungsprojekt in Pflegeheimen in Wien, es gibt wahnsinnig viel Potenzial, wo maschinelle Unterstützung wirklich, glaube ich, händeringend gesucht würde. Aber das muss ja nicht unbedingt in diesem Kernbereich der Pflege sein, der quasi das Gespräch, das Füreinander-Dasein, vielleicht miteinander lachen ist, nämlich der Bereich, aus dem jetzt meine Erfahrung nach viele Leute überhaupt auch ursprünglich in den Bereich gegangen sind. Für diese Tätigkeiten gibt es heute in der Regel fast keine Zeit mehr, weil die Leute völlig überfordert sind in diesen Bereichen. Also die haben ja wahnsinnig viel zu tun, rennen von A nach B, Patientenakten und so weiter. Und ich glaube, wenn man positive Szenarien schaffen möchte, dann gäbe es da wahnsinnig viel Potenzial, den Pflegeroboter anders zu denken, nämlich tatsächlich als mechanische Unterstützung, als Transportsystem, dass alles, was da so gebraucht wird, von Platz A nach Platz B bringt, dass vielleicht auch Patientenakten aufbereitet mit Daten umgeht, sodass gerade für die Menschen in diesen Arbeitsbereichen wieder mehr Ressourcen bleiben für die Bereiche, die halt echt so unique menschlich sind, die wir gut können und warum auch viele Menschen in den Bereich gegangen sind. Und da kann man jetzt sagen, das ist eine völlig utopische und naive Vorstellung, dass das so kommen würde, aber man muss, glaube ich, positive Bilder entwickeln und man muss sich halt dann fragen, wie kommt man dorthin und welche Rahmenbedingungen braucht es. Und wenn man sobald Roboter in den Bereich kommen, den Pflegeschlüssel irgendwie angreift und sagt, ach so, na dann braucht man natürlich wieder weniger Personal, dann klappt es klarerweise nicht. Aber es gäbe das Potenzial. Jetzt sind Sie in der Wissenschaft tätig, in der Lehre vermutlich und in der Forschung. Noch dazu in einem Bereich, der schon sehr erlesen und sehr diese Position erkämpft und auch diese öffentliche Aufmerksamkeit gefunden und auch Sie als Wissenschaftlerin, wie legen Sie es eigentlich an? Naja, also ich glaube mein ganz persönlicher Fall, da sind auch auch viele Umstände zusammenkommen. Also ich habe mir irgendwann getraut einfach selbst sozusagen auch ein Themenfeld mit einem Begriff irgendwie zu begründen. Das ist jetzt groß, es gibt natürlich viele Leute in der Welt, die sich mit Mensch-Maschine-Beziehungen beschäftigen. Manchmal braucht es auch so neue Bilder und Begriffe und Robo-Psychology halte ich oder Roboterpsychologie halte ich für einen ganz wichtigen Begriff, weil er einfach zeigt, dass die Psychologie, die Auseinandersetzung mit dem menschlichen Wahrnehmen und menschlichen Erleben auch im Technologiebereich ein ganz wichtiger ist. ganz wichtiger ist. Es ist nach wie vor natürlich so, dass ich weitaus mehr Männern in meinem Alltag begegne als Frauen, wenngleich es auch den Effekt gibt, dass man sehr häufig angefragt wird, nur weil man eine Frau ist mittlerweile, weil irgendwelche Genderquoten, die es ja berechtigterweise gibt, sozusagen eingehalten werden sollen, was mich aber tatsächlich auch ein bisschen nervt, wenn dann Anrufe kommen, wo es ausschließlich darum geht, noch eine Frau für irgendein Podium zu benötigen und die Auseinandersetzung mit dem, was ich inhaltlich eigentlich mache, ganz augenscheinlich gleich null war. Aber grundsätzlich verstehe ich, mit Psychologie, mit Medizin, mit Ethik, mit anderen Bereichen verbindet. wichtig. Ich glaube, Frauen, die in den Bereichen tätig sind, müssen noch mehr herausgeholt werden, damit sich Mädels irgendwie mit identifizieren können mit Geschichten, mit Personen. Das zeigt auch die Forschung ein wichtiger Driver. Was ich aber dazu sagen möchte, ist, es geht sicher nicht nur um Männer und Frauen und andere Geschlechtsrollen. Ich glaube, der Technologiebereich muss insgesamt über Geschlechtergrenzen hinweg diverser werden. Wir haben ja auch fast keine Leute über 45 in dem Bereich. Wir haben ja fast nur Weiße, Junge und eben hauptsächlich auch Männer in den Bereichen. Aber was ist mit Menschen mit Beeinträchtigungen? Was ist mit Menschen mit verschiedenen kulturellen Hintergründen, ethnischen Herkünften, auch disziplinären unterschiedlichen Sichtweisen? Also ich glaube, das muss man weit über das Gender-Thema hinaus denken. Und wir sehen jeden Tag in Technologieentwicklungen, die auf den Markt kommen, auch in der künstlichen Intelligenz, wie wichtig es wäre, dass unterschiedliche Menschen mit ihren Backgrounds, mit ihren Bedürfnissen, mit ihren Expertisen da drauf schauen und die Testphasen der Produkte begleiten, weil da landen teilweise Systeme im Markt, die einfach verschiedene User Groups systematisch benachteiligen. Das ist interessant, weil Sie haben jetzt eine Brücke gebaut, ganz kurz auch zu einem Thema, das ich ansprechen wollte. Vor wenigen Tagen hat Google, der Gigant schlechthin, der Internet-Gigant, der ja wesentlich mehr ist als nur eine Suchmaschine, hat kritische Aufmerksamkeit gefunden in den Medien, weil eine sehr renommierte Mitarbeiterin von ihnen, nämlich Timnit Gebru, eine der bekanntesten Google-Forscherinnen Google verlassen hat. Es ist noch ein bisschen unklar, ob sie es musste oder ob sie gegangen ist in einer großen Unzufriedenheit. Sie hat ihr Ausscheiden vor allem damit begründet, dass sie als People die nicht bloß weißer Hautfaraltungen und die Bedürfnisse auch von nicht weißen Menschen eigentlich überhaupt nicht berücksichtigt werden. Das ist ein bisschen ähnlich sozusagen in der Zeit der Erfindung der Fotografie, das ja auch quasi ausgerichtet war auf das Fotografieren von weißen Menschen. Und das ist jetzt ein Punkt, der doch ganz wesentlich ist, inwieweit wir nicht fürchten müssen, und da ist natürlich jetzt Ihre Meinung sehr gefragt dazu, inwieweit wir nicht befürchten müssen, dass all unsere gesellschaftlichen Bemühungen von Gerechtigkeit, einer Welt ohne Rassismus, einer Welt ohne Diskriminierung eigentlich völlig massiv durchkreuzt wird durch diese technologischen Entwicklungen, weil das ja auch so subtil daherkommt, weil viele Menschen, die haben sogar ein antirassistisches Sensorium, wissen das aber überhaupt nicht, wenn sie vor einer Kamera stehen, die sie gar nicht wirklich sehen können und da sozusagen ihr Gesicht erfasst und auch analysiert und ausgelesen wird? Ja, grundsätzlich können diese Systeme, also datengetriebene künstliche Intelligenz, und dazu gehören ja zum Beispiel auch Gesichtserkennungssysteme, die Sie gerade angesprochen haben, ja nichts anderes als das Widerspiegeln, was man ihnen reinwirft. Also diese datengetriebene KI funktioniert ja jetzt ganz simpel gesagt so, dass man riesige Datenmengen als Beispiele reinstopft am Anfang, die sogenannten Trainingsdaten. Das ist bei einem Gesichtserkennungssystem, sind das Abertausende Porträtbilder oder Videoaufnahmen von menschlichen Gesichtern zum Beispiel. Und das System kann dann Gemeinsamkeiten und Unterschiede darin zum Beispiel erkennen und sagen, okay, das gehört in den Topf und das gehört in den Topf und das gehört in den Topf. das gehört in den Topf und das gehört in den Topf und das gehört in den Topf. Und diese Erkenntnisse können dann auf neue Daten, also auf neue Fotos oder Videos angewandt werden. Und dann kann man die neuen Daten wieder klassifizieren sozusagen. Das wäre jetzt eine simple Art von datenbasierter künstlicher Intelligenz. Und ein Wahnsinnsproblem moment momentan und das ist eben eines, dass die Timnit Gebro, die ja eine gewichtige Stimme im Bereich der KI-Ethik ist und aus dem Stanford AI Lab ursprünglich kommt, immer wieder zu Recht angesprochen hat und die hat mit einer Mitarbeiterin von ihr, mit der Joy Buolamwini, ein Projekt gemacht, wo sie festgestellt haben, aha, sie selbst als dunkelhäutige Frauen, sie werden von Gesichtserkennungssystemen, die es am Markt gibt, von den großen Firmen nicht als Mensch erkannt. Wenn sie sich eine weiße Maske aufsetzen, dann aber plötzlich schon. Und ihre ganzen Freundinnen und Freunde mit hellerer Haut werden auch erkannt. Und haben sie das systematisch angeschaut und haben festgestellt, die Erkennungsraten bei hellhäutigen Männern sind sehr sehr hoch, also teilweise bei 99 Prozent, bei dunkelhäutigen Frauen aber dann deutlich schlechter, also bei 60, 70 Prozent, teilweise sogar Richtung kompletter Zufall, ob er erkannt wird oder nicht. Und jetzt kann man sagen, naja, so aus unserer Perspektive, ja, eigentlich ist das ja vielleicht ein Vorteil, man will ja nicht von jeder Kamera immer erkannt werden und wenn man so ein bisschen inkognito bleiben kann, ist doch super. Aber man muss sich überlegen, welche anzugasen oder zu bremsen, wenn eine Person erkannt wird, die geradeen. Und das liegt daran, dass in den Trainingsdatensets, also das, was man den Systemen am Anfang zum Lernen reinstopft, dass da einfach dunkelhäutige Personen deutlich unterrepräsentiert sind. Und die Systeme können über Menschen, Objekte, Situationen, über die sie weniger Informationen haben, natürlich auch nur weniger lernen. Und das zieht sich quer durch die Bank. Spracherkennungssysteme, wir haben es vorher angesprochen gehabt, Siri, Alexa und so weiter. Gibt es mittlerweile zahlreiche Berichte, dass ältere Personen und auch wieder ältere Frauen vor allem weniger gut verstanden werden. Was problematisch ist, wenn man gerade für ältere Personen sagen würde, Sprachinterfaces sind eine tolle intuitive Technologie, da müssen die nichts Neues lernen, da muss man nicht lernen, wie man über einen Bildschirm wischt, sondern dann kann die Oma sozusagen einfach so mit dem System sprechen. Und das liegt auch daran, dass in den Datensätzen mit Sprachaufnahmen von Menschen, aus denen man diese Systeme lernen lässt, nur ganz wenige Sprachaufnahmen von älteren Frauen drinnen sind, zum Beispiel. Und deswegen gibt es momentan einen großen Appell, sich mehr Gedanken darüber zu machen, Und es gibt momentan, wenn Google dachte, dass man diese Person einfach sozusagen entlassen kann. Sie sagen, sie hat selbst gekündigt, man weiß es nicht so recht. Und ich muss sagen, es geschieht ihnen recht, dass Sie aus irgendeinem Grund offenbar nicht vorhergesehen haben, was das momentan für eine PR-Katastrophe online mit sich bringt, weil natürlich tausende Menschen gerade da einen Aufschrei online gestartet haben. Jetzt ist ja Google wieder einmal mehr auch ein ganz gutes Anschauungsbeispiel dafür, dass gerade am Beispiel von Google viele Menschen zum ersten Mal auch auf die Problematik gestoßen sind, die sich aus der Macht der Algorithmen ergibt. Nämlich, dass sie festgestellt haben, okay, wenn ich einen Suchbegriff eingebe und dann kriege ich ein Ergebnis, das schaut bei mir anders aus als bei meiner Freundin oder so. Da ist irgendwas im Hintergrund, eine Systematik, die sich mir so nicht erschließt. Das ist natürlich die Algorithmik, die bis heute ja in vielen dieser großen Unternehmen, manche schimpfen sie auch Datenkraken, ja quasi wie ein Staatsgeheimnis verschlossen bleibt. ja quasi wie ein Staatsgeheimnis verschlossen bleibt. Nochmals auch zur Frage der Demokratisierung der Entwicklung. Inwieweit oder wie groß sehen Sie die Chancen in der Forderung, wirklich auch mit Nachdruck zu verlangen, dass diese Unternehmen wie Google Algorithmen öffnen, damit das auch transparenter wird und dass man da auch letztendlich mitgestalten kann? Naja, also Unternehmen haben in der Regel keine große Freude, wenn sie ihre Geschäftsgrundlage veröffentlichen sollen. Was ich dazu sagen kann, ist, dass es schon zunehmend in den vergangenen Jahren Initiativen gibt, auch auf politischer Ebene, die für mehr Fairness, Nichtdiskriminierung, Transparenz im Einsatz von künstlicher Intelligenz sorgen möchten. Also beispielsweise hat die Europäische Kommission ja vor etwa drei Jahren einen Guideline-Prozess ins Leben gerufen mit europaweiten Expertinnen und Experten aus verschiedensten KI-Bereichen, auch aus Unternehmen, aber auch aus der Ethik beispielsweise. Und da sind gemeinsam die europäischen Richtlinien für vertrauenswürdige künstliche Intelligenz entstanden, die man sich auch online anschauen kann und die jetzt auch für Policy Recommendations in dem Bereich benutzt werden, die jetzt mittlerweile auch verbunden sind mit einem Fragenkatalog, den sich Entwicklerinnen und Entwickler vor die Nase halten sollen, bevor sie KI-Produkte auf den Markt bringen. Inwiefern sich Unternehmen, die dann eben nicht in Europa ansässig sind, daran halten werden, ist eine Frage. Ich glaube, es kämpfen da momentan viele Menschen, aber es ist natürlich ein sehr schwieriges Unterfangen. Innerhalb von Europa gibt es schon so einen Drive, dass man sagt, okay, wie kann sich Europa eigentlich in diesem globalen Markt, und da wird ja oft auch von so einem globalen Wettkampf zwischen China, USA und Europa im Technologiebereich gesprochen, wie kann sich Europa da positionieren? Und ein Bild, das da momentan versucht wird zu vermitteln, ist eben dieses, dass man sagt, okay, Künstliche Intelligenz, made in Europe zumindest, das ist die, die hochqualitativ ist im Sinne von fair, transparent, die Menschenrechte beachtend, ethisch geprüft und so weiter und so fort. Also ich glaube, es wäre natürlich auch schön, wenn man mehr Unternehmen in Europa sozusagen aufbauen könnte und nicht immer so sehr angewiesen ist auf die großen Player, die halt woanders mit anderen Reglements sitzen. Wir haben jetzt gar nicht mehr so viel Zeit auf der Uhr. Ich möchte aber noch ein ganz entscheidendes Thema ansprechen. Wir haben es bereits erwähnt, quasi die Ängste der Menschen. Jetzt in der Pandemie kommen sie besonders stark zum Ausdruck, aber sie kommen immer auch zum Ausdruck, begleitend zu Technologieentwicklungen. Viele Menschen sind sehr besorgt, ob sie in der Arbeitswelt von morgen, die ja durch und durch auch digitalisiert sein wird, überhaupt noch einen Job finden werden, Job finden können. Die Ängste sind sehr groß. Es wird auch im Grunde genommen auch damit sehr stark operiert. Da heißt es überall, du musst zukunftsfit werden und das und das, lebenslanges Lernen. Also immer Druck, immer sozusagen das enge Korsett. Hoffentlich schaffe ich das. Sie haben sich auch damit beschäftigt. Ich habe auch gelesen, dass Sie dazu letztlich auch hier in Linz im Rahmen der Arbeiterkammer einen Vortrag gehalten haben, weil natürlich das auch jetzt gerade sehr relevant ist, die Frage der Jugendarbeitslosigkeit, die ja quasi jetzt nochmal durch die Pandemie verstärkt wurde. Was können Sie sagen, wir haben natürlich jetzt keine Zeit für eine Vorlesung, was können Sie sagen, welche Kompetenzen sollten gerade auch junge Menschen sich heute schon aneignen, auch im Sinne von kritischem Denken, also reflexivem Herangehen, an eine von einer künstlichen Intelligenz geprägten Arbeitswelt. Ist es berechtigt zu befürchten, dass sie hier ausgebotet werden und quasi verdrängt werden? Oder wo können diese Menschen in Zukunft am Arbeitsmarkt ihre Position finden? Ja. Also ich möchte mich nicht diesen teils utopischen, teils total dystopischen Prognosen anschließen. Ich glaube, grundsätzlich ist es ganz schwierig zu sagen, 20, 30, 40 einfach nicht genau, wie sich das auswirken wird. Es ist teilweise absehbar. Also ich würde mich mal trauen zu sagen, dass der Handel irgendwie obsolet wird. Da bin ich zum Beispiel ganz skeptisch, weil alles, was ich so sehe an robotischer Fingerfertigkeit dermaßen in den Kinderschuhen steckt, dass ich mir nicht vorstellen kann, dass hier Menschen zum Beispiel bald ersetzt werden würden. Das heißt grundsätzlich ist die Ausgangssituation so eine bisschen unsichere. Und ich glaube, die Kompetenz, die dafür ganz besonders wesentlich ist, ist, dass man sich möglichst gut auf Unsicherheit und auf neue Situationen einstellen kann und sozusagen flexibel damit umgehen kann, auch selbst für sich Spaten findet. Und das ist im Prinzip menschliche Kreativität, also das Umgehen können mit Neuem oder auch das Neue selbst in die Welt schaffen. Also ein simpler Zugang wäre einfach zu sagen, okay, was bringt uns auf jeden Fall was und was können Maschinen jedenfalls schlecht? Was Maschinen in jedem Fall schlecht können, ist alles, was mit Kreativität, Ideenfindung, neues Entwickeln zu tun hat, weil die nicht über das hinaus können, was wir ihnen reinstopfen, wie schon gesagt. Und daneben gibt es andere Bereiche, wie alles, was in sozial-kommunikative Richtung geht zum Beispiel. Da rede ich jetzt nicht nur von empathischen Bereichen wie die Pflege, sondern auch was aushandeln, was diskutieren zum Beispiel. Handwerk kann auch so eigentlich ein Zukunftsbereich sein, teilweise. Also ich glaube, es wäre wichtig, dass wir diese Kompetenzen stärken, also Ideenfindungsprozesse, kreativ sein, Brückenschläge bilden, Querdenken will ich in den Zeiten heute nicht mehr verwenden als Begriff, aber sozusagen, was sicher großes Potenzial mit sich bringt, ist, wenn man Datenanalyse, also Data Science, künstliche Intelligenz, Methoden aus diesen Bereichen mit eigenen Domänen, Arbeitsdomänen verbinden kann. Also wenn sich jemand fragen kann, okay, ich bin im Installationsbereich tätig oder ich bin Friseur oder ich bin in dem Forschungsbereich tätig, also ganz unterschiedliche Bereiche, wenn man in der Lage ist, darüber nachzudenken, was könnte man mit KI in diesem Bereich machen, welche Brückenschläge gäbe es? Oder wie kann ich meinen Bereich mit anderen Bereichen sinnvoll verknüpfen? Also ich glaube, diese Art von Brückenschlägen werden wir in Zukunft viel mehr brauchen. Und das ist etwas, was leider in der Schule bis dato nicht sehr stark trainiert wird. Jetzt möchte ich zu einem Abschluss kommen und nochmals mit Ihnen das auch vielleicht noch abrunden Abschluss kommen und nochmals mit Ihnen das auch vielleicht noch abrunden bzw. auch noch mal das stärker fokussieren auf die Frage, was können wir Menschen eigentlich in Zukunft tun. Wenn ich so in die Geschichte zurückblicke, so gab es eine ganze Menge politischer, systemischer, gesellschaftlicher Veränderungen alleine im 18., 19., 20. Jahrhundert und interessanterweise hat man spätestens mit dem beginn des industriezeitalters und dem aufkommen der vielen schwierigen implikationen die das industriezeitalter auch so mit sich gebracht hat doch die idee an der viele fest gehalten haben und auch vielleicht auch heute noch daran glauben, dass es eigentlich so etwas braucht wie einen Maschinensturm, um wirklich radikal Veränderungen herbeizuführen. Ich führe das jetzt deshalb an, weil junge Menschen von heute sich ja nicht nur sorgen um ihren Arbeitsplatz von morgen, sondern sie stehen mehr als wir, sondern sie stehen mehr als wir, wie wirhaben wir das mit Technologien? Weil gleichzeitig wissen wir das eine, dass natürlich das Produzieren, die Emissionen, so wie wir bisher gefahren sind, das kann so nicht mehr weitergehen. Das ist besser heute als morgen zu beenden. Auf der anderen Seite gibt es viele Technologiehoffnungen, dass gerade Umwelttechnologien, intelligente Technologieformen vielleicht eine Lösung bringen können. So oder so, es wird selbst die auf Internettechnologien, künstliche Intelligenzformen, werden sehr, sehr viel Strom und Energie benötigen. Auch das ist eine Frage, wie wir das lösen wollen. Wie würden Sie das jetzt abschließend auch für unseren Talk heute das nochmal einordnen? Inwieweit sehen Sie Risiken? Inwieweit sehen Sie Chancen? Und wo können wir uns sozusagen als emanzipierte Menschen, die tatsächlich die Hoffnung auch nicht aufgeben wollen, da auch konkret das verbinden mit unserem persönlichen, auch politischen, gesellschaftlichen Handeln? Ja, also das müssen wir. Wir müssen jetzt schauen, wie wir Technologie genau zu diesen Zwecken einsetzen können, zum Wohl des Planeten und das ist ja gleichzeitig auch zum Wohl der Menschen dann. Und das ist ja gleichzeitig auch zum Wohl der Menschen dann. Und ja, ich finde es ganz wichtig, dass es da jetzt auch große Bewegungen gegeben hat, wie die Fridays for Future Community. Im österreichischen Rat für Robotik und Künstliche Intelligenz, den Sie am Anfang angesprochen haben, wo ich Mitglied bin, haben wir uns jetzt, wir sind ja auch am Klimaschutzministerium angehaftet, haben wir uns als großes Jahresprogramm jetzt dem Thema Klimaschutz und künstliche Intelligenz gewidmet. Da tut sich gerade wahnsinnig viel. Es gibt zunehmend Menschen, die sich darüber Gedanken machen, wie man diese Technologien eigentlich für den Klimaschutz einsetzen kann. Einerseits um Auswirkungen der Klimakrise sozusagen, um uns widerstandsfähiger zu machen, aber andererseits tatsächlich zur Reduktion von Treibhausgasen. Und wie Sie sagen, da gibt es Downsides. Also natürlich brauchen die Systeme selbst Energie. Da gibt es gerade Initiativen, die sich anschauen wollen, wie man eigentlich die Effizienz dieser Systeme messen kann. Also, dass man nicht überall ein mega neuronales Netz braucht, das so viel Strom braucht wie die Autos von einer Kleinstadt sozusagen, sondern dass man oft mit simpleren, effizienteren Systemen auskommt, die wesentlich weniger Energie verbrauchen. Gleichzeitig gibt es aber viele Hinweise darauf, dass gerade künstliche Intelligenz tatsächlich auch zur Emissionseinsparung benutzt werden kann, wenn es schlau gemacht wird, indem man Prognosesysteme benutzt, indem man Maschinen besser reduzieren kann, Energiekreisläufe effizienter gestalten kann, extreme Wetterereignisse zum Beispiel voraussehen kann und so weiter und so fort. Climate Change AI ist eine neue internationale Initiative zum Beispiel in dem Bereich und da bin ich optimistisch, dass wir in den nächsten Jahren ganz gute Ideen sehen werden. Ja, Optimismus können wir brauchen, so oder so. Wir sind am Ende der Sendezeit, was mir sehr, sehr leid tut, weil da hätten wir noch eine ganze Menge mehr noch auch zu diskutieren. Vielen herzlichen Dank, Martina Mara, dass Sie heute zu mir ins Studio gekommen sind, zwei Tage vor Weihnachten. Ja, vielen Dank auch den Zuseherinnen und Zusehern, die wieder heute mit Interesse dabei waren. Das war tatsächlich meine letzte Sendung hier im Programm 2020 auf Dorf TV. Ich kann ankündigen, dass es die nächste Ausgabe von Wassermeyer sucht den Notausgang auch schon sehr bald geben wird, nämlich am 20. Jänner 2021. Dann ist bei mir zu Gast die Politikwissenschaftlerin und Demokratieforscherin Tamara Eß, wieder ein Dienstag und dann auch wieder am Vormittag. In diesem Sinne wünsche ich allen noch eine schöne Weihnachtszeit, wenig aufgeregte Feiertage. Wir sind alle gespannt natürlich, wie es jetzt auch rund um den Jahreswechsel mit der Corona-Situation weitergeht. Aber dennoch, wir werden das schon irgendwie hinkriegen. In diesem Sinne darf ich wie immer abschließend darum ersuchen, bleiben Sie dem Sender Ihres Vertrauens, nämlich DorfTV, auch im neuen Jahr gewogen und darf mich somit auch verabschieden. Vielen Dank und auf Wiedersehen.