Guten Abend und herzlich willkommen im Kepler-Salon. Mein Name ist Barbara Jani und mit meinen beiden Gästinnen, mit Martina Geisch und Veronika Liebl, werden wir uns heute mal auf ganz andere Art und Weise dem Thema Mensch und Maschine nähern. Es ist ja ein Thema, das man seit AI, Artificial Intelligence, ja wieder in aller Munde ist und alle Menschen besorgt und begeistert gleichermaßen, ist es ja wieder sehr stark diskutiert. Wir werden heute diese vielen Fragen, die es dazu gibt, Antworten in literarischen Werken suchen. Das ist dieses Format der Zeit ihrer Bücher, wo wir mal anders drauf schauen auf diese Themen. Bevor ich dann näher darauf eingehe, vielleicht kurz zum Ablauf. Wir drei haben uns in drei Bücher jeweils eingelesen und werden die vorstellen, werden auch kurz erzählen drüber, was haben wir da schon für Antworten gefunden. Wir haben auch jede Menge Fragen mit und werden die dann mit Ihnen allen gemeinsam erörtern. Nach unserem Input wird das dann kommen. Ja, und jetzt möchte ich aber meine beiden Gästinnen vorstellen. Veronika Liebl sitzt da gleich neben mir. Sie ist Festivaldirektorin und Managing Director des Bereiches Festival, Pre und Exhibitions des Ars Electronica Center. Genau. Sie hat Wirtschaftswissenschaften, ein schwieriges Wort, darum falle ich drüber, obwohl ich selber studiert habe, an der JKU studiert und ist seit 2011 im Ars Electronica Center beschäftigt. Kulturmanagementagenten hat sie dort über. Projektentwicklungen, auch europäische Kooperationsprojekte machst du da, im Bereich Kultur, Forschung, Bildung, wie den Startspreis, der glaube ich schon einigermaßen bekannt auch ist, das European Artificial Intelligence Lab zum Beispiel hast du auch realisiert. Und sie ist Mitglied im Linzer Stadtkulturbeirat. Genau. Martina Gresch sitzt dann eins weiter. Sie ist Professorin an der FH Oberösterreich in Hagenberg. Und vom Hintergrund her ist sie Bildungssoziologin. Das ist ihr Background. Und ist schon seit 20 Jahren in Forschung und Lehre tätig, beschäftigt sich mit KI-Ethik, Technologiefolgenabschätzung, Diversity Management, das ist glaube ich auch ein wichtiger Teil bei dir, und Fragen der digitalen Transformation. Bachelorstudiengang Design of Digital Products. Und für ihre innovative Programmarbeit und vor allem für den Einsatz für Frauen in der Informatik wurde sie 2023 mit dem Krethe Rohherr-Preis des Bundesministeriums ausgezeichnet. Also zwei sehr profunde Expertinnen eigentlich schon per se. Darum freue ich mich, dass Sie sich auf das Experiment eingelassen haben, da mal in der Literatur nachzufragen und Ihre eigenen Bilder damit diesen Bildern zu ergänzen. Ja, wir haben im Vorfeld jede Menge Fragen gesammelt. Die sehen Sie da auch eingeblendet. Die sollen uns im Hintergrund begleiten, vielleicht dann auch in der anschließenden Diskussion, damit wir da ein bisschen eine Orientierung haben, auf was wir geschaut haben. Ich fand es sehr spannend, als ich begonnen habe, mich mit dem Thema Mensch und Maschine und Literatur zu befassen, dass man da extrem weit zurückgehen muss, wenn man über dieses Thema nachdenkt. Und eigentlich so zum Beginn aller Mythen, wie Menschen erschaffen wurden. Es gibt, also der Prometheus ist die Sage, die eigentlich da die bekannteste ist, wo Prometheus als Gott den Mensch erschaffen hat, indem er ein Lebewesen aus Lehm geformt hat und dem den Lebenshauch eingehaucht hat und so ein Abbild der Götter geschaffen hat. Und wenn man darüber nachdenkt und ein bisschen reflektiert, dann kommt man darauf, dass bis auf den Buddhismus gibt es in allen Weltreligionen genau diesen Schöpfungsmythos, also dass ein Gott ein Abbild geschaffen hat in Menschen. Es geht recht weit zurück und dann haben auch die Menschen schon sehr bald darüber nachgedacht, selbst menschenähnliche Wesen zu schaffen und das gibt es auch schon in der griechischen Mythologie. Mythologie. Da ist es der Schmied und Sohn von Zeus Hephaistos, der den ersten künstlich geschaffenen Menschen kreiert hat. Das sind Lebewesen aus Metall, so riesige Figuren, die haben als Wache gedient dem König Minos. Es gab auch so rollende Dreifüße und goldene Jungfrauen für die Götter. So hat das begonnen. Daiderlos zählt in der Mythologie zu den frühen Erbauern künstlicher Menschen. So neben diesen Flugapparaten, für die er ja bekannt geworden ist, hat er bewegliche Statuen erschaffen, die ganz lebensecht gewirkt haben sollen. Springen wir ein wenig in der Zeit. Im Mittelalter gab es extrem viele Legenden, die die magische Schaffung von künstlichen Menschen zum Inhalt hatten. Das waren die Homunculi bei Paracelsus und in Goethes Faust II kommt eben so ein Wesen auch vor. Und ich glaube auch sehr bekannt ist die Golem-Legende, die ja auch in vielen Sagen, in vielen Geschichten erzählt wird mit diesem künstlichen Menschen aus Lehm. Dann kam die Aufklärung und der Glaube an den Zauber und an den Mythos hat sich da ein bisschen verflüchtigt und wurde von einem sehr mechanistischen Weltbild abgelöst. Was aber diesen Wunsch, künstliche Menschen zu schaffen, nur wahrscheinlich wieder befeuert hat, aber auf andere Art und Weise. Wahrscheinlich aufgrund des Urmacherhandwerks hat man dann begonnen, solche Wesen auch zu schaffen. So mechanische Wesen, Menschen, die konnten dann tanzen zum Beispiel, also die konnten menschliche Aktionen ausführen oder nachahmen. Und da hat sich dann so dieses Bild so verdichtet, wo man Mensch und Maschine nicht mehr recht unterschieden hat. Also so mechanistisch war das. Da war irgendwie auch der Mensch als Uhrwerk gedacht. Das hat viel Unbehagen hervorgerufen, schon damals, wenig verwunderlich. Und ein Buch, das wir heute auch am Büchertisch mithaben, aber nicht so sehr darauf eingehen werden, aber es ist sehr wichtig, das ist der Sandmann von E.T.A. Hoffmann. ist sehr wichtig. Das ist Der Sandmann von E.T.R. Hoffmann. Da geht es darum, dass ein künstlicher Mensch eine Frau erschaffen wird, die so lebensecht wirkt, dass sich ein junger Mann in sie verliebt und das geht dann sehr, sehr tragisch aus. Ja, und in der modernen Literatur glaube ich, es ist dann schon recht verbreitet. Ausgangspunkt dafür ist Mary Schelles' Frankenstein oder der moderne Prometheus, gilt als wichtigster Vorläußer. 1818 ist er erschienen, um das ein bisschen einzuordnen. Wir gehen heute auch ein bisschen in die Geschichte, aber nicht ganz so weit zurück. Darum habe ich es jetzt ein bisschen hereingeholt und wollen aber beim modernsten Buch beginnen. Also vielleicht ganz kurz einmal die Bücher. Wir haben vom Richard Powers das große Spiel. Wir haben vom Harry Harrison Make Room, Make Room. Und von E.M. Forster die Maschine steht still. M. Forster, die Maschine steht still. Gleich jetzt einmal der Hinweis, Alex hat auf seinem Büchertisch alle diese Bücher auch mit, falls sie dann Interesse bekommen haben, sich da zu vertiefen. Ja, und ich würde jetzt dich beginnen, wir bitten Veronika zu beginnen und uns zu erzählen über das große Spiel und was du da so für Antworten gefunden hast. Sehr gerne, sehr gerne. Ich habe auch für diesen Roman, den aktuellsten von unseren drei Romanen, das große Spiel von Richard Powers entschieden. Einerseits, weil wirklich eine sprachliche Brillanz, würde ich meinen, in dem Buch an den Tag gelegt wird, aber auch, weil der Autor es schafft, unglaublich komplexe Themen unserer Zeit, wie Technologie, Demokratie, auch Ökologie, super spannend mit den persönlichen Lebensgeschichten von den Protagonistinnen in dem Roman zu verknüpfen. Protagonistinnen in dem Roman zu verknüpfen. Diese Interdisziplinarität ist sicher etwas, was einfach auch durch seine persönliche Vita geprägt ist. Er wurde 1957 in den USA geboren, verbrachte dann prägende Jahre auch tatsächlich in Bangkok. In seiner Literatur wird dieser kosmopolitische Ansatz auch die unterschiedlichen Kulturen und Lebensweisen immer wieder gespiegelt. Er hat zuerst dann mit einem Physikstudium begonnen, hat sich dann aber recht schnell für Literaturwissenschaften entschieden, hat seine Karriere aber dann nicht als Autor begonnen, sondern tatsächlich als Programmierer in der Datenverarbeitung in Silicon Valley in den frühen 80er Jahren. Und genau diese Biografie, halb naturwissenschaftler, halb auch Sprachkünstler, ist etwas, was seine gesamte Literatur prägt. Er ist sicherlich einigen hier ein Begriff. Er hat ganz viele Preise, unter anderem den Pulitzerpreis, auch den National Book Award for Fiction bekommen, wurde immer wieder auch nominiert für den Bookerpreis und gilt sicher als einer der großen Autoren unserer Zeit. alle von vier Hauptromanfiguren mit den ganz, ganz großen Themen unserer Zeit zu verknüpfen, mit künstlicher Intelligenz, auch mit den Artensterben in den Ozeanen, mit Umweltzerstörung und sehr vielen auch ethischen Fragestellungen. Und das tatsächlich auf eine Art und Weise, die total greifbar ist, die nicht abstrakt wird, auch nicht belehrend ist. Als jemand, der sich tagtäglich mit künstlicher Intelligenz und Technologie beschäftigt, hat mich unglaublich beeindruckt, wie er einfach sehr leicht diese Themen wie KI-Regulierung, KI-Ethik in Nebensätzen teilweise im Buch mit einfließen lässt, ohne dass sie das jetzt als KI-Crash-Kurs irgendwie darstellt, sondern tatsächlich vielmehr als Roman über wichtige Themen. Auch, glaube ich, weil er in seinen Büchern vor allem in das große Spiel schafft, die Technik jetzt nie zum Selbstzweck zu machen, sondern wirklich im Sinne der Gesellschaft einzusetzen, auch in den Dienst der Gesellschaft zumindest vermeintlich zu stellen. Das Buch an sich ist eigentlich, wie wir meinen, gar kein Buch über künstliche Intelligenz. Es handelt ganz weite Strecken vom Ozean, von einer Südseeinsel, genannt Makatea. Und doch kommt vor allem in der zweiten Hälfte des Buchs Technologie wirklich omnipräsent vor. Aber vor allem in einer Art und Weise, wo er als Autor vielmehr fragt, auch tatsächlich, wie wir als Menschen in einem sehr technologiedurchdrungenen Zeitalter leben, was auch die Richtungen sind, wie wir uns gemeinsam leben in diesem Zeaborativen, gemeinschaftlichen Art und Weise als Gesellschaft das auch bewältigen können. Im Zentrum vom Buch stehen, wie bereits erwähnt, vier Hauptfiguren, deren Lebenswege alle miteinander verschränkt sind. Und die erste der Figuren startet ungefähr in der Zwischenkriegszeit. Die vier Geschichten gehen alle bis ins Heute oder in die nahe Zukunft. Verhältnissen in Chicago. Er trifft dann Todd Kane, der aus wohlhabendem Familienumfeld ist. Beide teilen eine gemeinsame Eigenschaft und zwar das ist die Leidenschaft und die Liebe für Spiele. Zu Beginn in der Schule, in der Jesuitenschule in Chicago, vor allem für Schach. Dann im weiteren Verlauf auch sehr stark für Go, ein Brettspiel, das als eines der komplexesten Strategiespiele der Welt gilt. Und die Spiele werden im Buch nicht unbedingt als Freizeitbeschäftigung beschrieben, sondern eher schon als Typologisierung dessen, wie die beiden gemeinsam sehr strukturierende Denkmodelle entwickeln. Zu Beginn teilen sie sich auch noch sehr einen Lebensweg. Das Ganze entzweit sich dann schon langsam auch an der Universität, während Raffel sich vor allem für Philosophie, Ethik, Literaturwissenschaften interessiert, taucht Todt total in die Welt der Informatik, in die Welt der KI-Forschung ab. Und es sind am Anfang auch tatsächlich nur Nebensätze überhaupt im Buch, wo man leicht erkennen kann dann, was da eigentlich an der Universität, an der die beiden studieren, passiert und wie auch vielleicht das erste autonome System an dieser Universität entwickelt wird. Und da möchte ich den ersten von insgesamt vier Passagen vorlesen, die ich heute mitgebracht habe. Der Fachbereich Informatik erlebte das goldene Zeitalter der symbolischen künstlichen Intelligenz. Und ich war mit Herz und Seele dabei. Meine Kommilitonen befragten Fachleute und verpackten das Wissen in eine saubere, leistungsstarke, anwenderfreundliche Blackbox. Wir würden hervorragende Ärzte, Anwälte, Ingenieure und Architekten erschaffen und dann würden unsere Expertensysteme die Menschheit auf Zack und in Form bringen. Meine Fähigkeiten als Programmierer brachten meine Praktikumstelle im Rechenzentrum ein. Ich war ein winziges Zahnrad in einem gigantischen Projekt, an dem sich mehrere Universitäten und zwei Dutzend Großkonzerne beteiligten. Es strebte nach einer umfangreichen Abbildung impliziten Wissens, kurz CRIC genannt, und gehörte zu Amerikas bemühenden Wettlauf, um die erste intelligente Maschine zu gewinnen. CRICs Zielsetzung war unfassbar und um sie zu erreichen, würden viele tausende Menschen jahrelang Arbeit hineinstecken müssen. Wir würden nach einer strikten übergeordneten Logik all jene zugrunde liegenden Konzepte spezifizieren, die zusammengenommen das ergaben, was wir den gesunden Menschenverstand nannten. Überall auf der Welt waren hunderte Menschen dabei, Regeln zu formulieren, die alles Existierende hierarchisch ordneten und anschließend brachten sie diese Regeln in eine maschinenlesbare Form. Alles Existierende sollte in Krieg eingespeist werden. Eine Information nach der anderen, alles über Individuen, Gruppen, Klassenbeziehungen, Felder, Attribute und Handlungen. Leute wie ich waren dabei, Krieg mit 10.000 winzigen Wissensbrocken zu füttern. Das Ziel lag bei mehreren Millionen, so viele, dass die Maschine jede Frage verstand. In der gewaltigen multinationalen Hierarchie der Kriegbediensteten stand ich auf der untersten Stufe. Ich fütterte Krieg mit Zeitungsartikeln und stellte immer wieder kurze Fragen, um zu überprüfen, ob die handprogrammierte Logik funktionierte wie gewünscht. Nach einer Weile durfte ich an den Spezialmodulen arbeiten, die Krieg verwendeten, um bestimmte Problemklassen zu lösen. Es reichte nicht, Krieg 20 Millionen Tatsachen über die Welt zu erklären. Wir mussten der Maschine zugleich erklären, wie sie in diesem Ozean aus 20 Millionen Tatsachen abtauchen und eigene Rückschlüsse ziehen könnten. Mit einem kurzen Sprung resümiert er diese Zeit. Diese zweieinhalb Jahre waren die besten meines Lebens. Im Nachhinein kann ich kaum glauben, dass das goldene Zeitalter nur 30 Monate gedauert hat. 30 Monate ununterbrochener Arbeit, die sich anfühlten wie Urlaub. Am Ende meines Korridors im hochleistungsreichen Zentrum entwickelte meine Kollegen eine Software, die sich als die mächtigste Erfindung seit der Dampfmaschine erweisen würde. Die Leute, mit denen ich in Illinois zusammengearbeitet hatte, würden später Netscape, JavaScript, Oracle und YouTube gründen. Es war, als wäre ein ganz unbewohnter Continent plötzlich zur Besiedelung freigegeben. Die Welt glitt von einem Zeitalter in ein anderes hinüber. Endlich standen mir die Instrumente zur Verfügung, jene spielerische Lebensweise zu finden, nach der sich die Menschheit immer gesehnt hatte. Diese Passagen bilden sozusagen die Basis auch für das Unternehmen, das ja in weiterer Folge gründen wird. Sie zeigen aber auch, finde ich, ganz eindeutig, wie die Prozesse und die Entwicklungsgeschehnisse hinter künstlicher Intelligenz einfach sind, dass da tausende Menschen einfach involviert sind, die diese Systeme entwickeln. Und das schafft einfach tatsächlich der Autor in dem Buch fantastisch, in so Nebensätzen, in Paragraphen immer wieder einflechten zu lassen. Gleichzeitig muss ich aber auch dazu sagen, dass diese zwei Hauptfiguren auch ergänzt werden durch zwei unglaublich starke weibliche Figuren, die unterschiedliche Disziplinen vertreten. Einerseits ist Evelyne Poglieu, sie ist Pionierin in der Ozeanografie. Sie hat ganz zu Beginn schon in der Ozeanforschung gearbeitet und war damals auf der polynesischen Insel Makatea stationiert, die dann eine sehr große Rolle spielen wird und hat dort auch eines der bekanntesten Bücher geschrieben. Die andere Person ist Ina Aruita, sie ist eine indigene Künstlerin und später die Partnerin auch von Raffi, die vor allem im Buch sehr zentrale Rolle auch einnimmt, darüber zu reflektieren, wie diese Insel, auf der dann beide leben werden, wie auch Eveline, auch in eine Zukunft, die gesellschaftspolitisch vertretbar ist, die auch ökologisch vertretbar ist, entwickelt werden kann. Mit der zunehmenden Handlung, vor allem dann im zweiten Teil des Buchs, wird vor allem die ökologische Dimension immer dramatischer, ehrlicherweise auch immer bedrückender im Gesamten in der Forschungsspanne, in der Lebensspanne von Evelyn wird das Artensterben in den Ozeanen immer präsenter, wird auch immer detailreicher im Buch beschrieben. Und das auf eine Art und Weise, dass es nicht nur unaufhaltbar beschrieben wird, sondern sicherlich auch komplett entkoppelt von den Interessen der großen Tech-Eliten. Damit macht natürlich der Autor vor allem die ganz große Frage, auf was nutzt uns eigentlich technologischer Vorsprung, wenn wir einen unbewohnbaren Planeten damit hinterlassen. Das ist wirklich einer der absolut zentralen Erzählstränge auch in dem ganzen Buch. Auf technologischer Ebene eskalieren auch die Gegensätze dann im zweiten Teil des Buches immer mehr. Dann eine Spieleplattform, eine Social-Media-Plattform im Wesentlichen, die sehr, sehr große Parallelen zu dem, fast erschreckende Parallelen zu all den Plattformen, die Facebook und Co. wir alle kennen, die immensen politischen Einfluss bekommen. Die Firma, diese Social-Media-Plattform entkleidet ihn im Wesentlichen spätestens, als er an einer schweren Form auch von Demenz erkrankt. Ich lese noch eine Passage dazu vor, einen Moment, als er realisiert eben, dass er die Firma abgeben wird müssen. Ich werde mich natürlich aus Playground zurückziehen müssen, aus allen Firmen. Das Tagesgeschäft habe ich an meine Stellvertreter abgegeben. Außerdem habe ich die dafür Zuständigen informiert, wen ich mir als meinen Nachfolger wünsche. Doch mein Ausscheiden, öffentlich zu machen, wird natürlich ein Albtraum. Alle Investoren, die Playground-Aktien in ihrem Rentenportfolio haben, werden in Panik ausbrechen. Die Medien werden durchdrehen. Viele Tech-Journalisten haben es nie verwunden, dass eine Einzelperson eine goldene Aktie an einem Unternehmen hält, dessen Jahresgewinn das jeweilige Bruttosozialprodukt der 30 ärmsten Länder der Erde übersteigt. Es sieht nie besonders gut aus, wenn ein Gründer, Chefstratege und CEO mit mehr Stimmrecht öffentlich verkündet, mein Gehirn schaltet sich ab. Aber wem will ich eigentlich was vormachen? Ich bin vielleicht das Gesicht vom Playground der Menschen, den alle denken, wenn sie den Firmennamen hören. Aber mein kleiner Versuch, Menschen zu ermächtigen und miteinander zu verbinden, ist mir schon vor 20 Jahren entglitten. Ich leite die Firma nicht mehr. Niemand tut das. Die Firma ist ein lebendiges System mit eigenen Vorstellungen. Ab einer bestimmten Größe entwickelt sich jedes System, jedes Unternehmen eine eigene Schwarmintelligenz. Die Firma wird jemanden finden, der ihren kollektiven Willen durchsetzt, während die Leute am Ruder sich einbilden, sie hätten Einfluss wie ich damals. Du solltest das unbedingt auf die Liste der Definitionen dessen setzen, was es bedeutet, ein Mensch zu sein. Wir hoffen, dass unsere Schöpfung größer wird als wir selbst. Und wenn es dann soweit kommt, sind wir verzweifelt. Die Handlung spitzt sie dann vor allem dann zu, Die Handlung spitzt sie dann vor allem dann zu, als Todd versucht, diese Pazifikinsel, auf der Raffi, Evelyn und Inna leben mittlerweile, zu einem Prototyp für steuerfreie Pazifik-Oase zu machen, insbesondere für die Superreichen, die sich dann auch staatlichem Einfluss entziehen können. Übrigens ein reales Vorhaben, das auch von PayPal und Palantir-Gründer Peter Thiel unterstützt und sogar darin investiert wurde. Um das Ganze irgendwie legitim wirken zu lassen, versucht man den Bewohnern dort natürlich klarzumachen, dass daraus tausende Jobs geschaffen werden können, dass Wohlstand auf die Insel kommt, dass Infrastruktur gebaut wird, Schulen, Krankenhäuser und Co. Aber man lässt die Bevölkerung selbst über diese Transformation entscheiden. Man bietet die Möglichkeit, Fragen zu stellen und um diese tausenden Fragen dann zu beantworten, die die Bevölkerung hat, stellt man tatsächlich einen KI-gestützten Sprachassistenten zur Verfügung, genannt Profunda. Profundas Antwort überraschte alle. Statt die Fakten zu beschönigen, gab sie zu, dass das Seasteading-Projekt die Lagune und das Riff mitsamt seiner Flora und Fauna verändern würde. Als sie über Art und Ausmaß des Wandels spekulierten, klang sie beinahe philosophisch. Sie verwendete Wörter wie Nachteil und Schaden und versuchte den Verlust in Franks zu bemessen, gab aber zu bedenken, dass es sich hierbei nur um eine Schätzung handelte. Doch die Leute konnten auch ohne profundes Hilfe sehen, dass der Preis gering war im Vergleich zu den Einnahmen, die das Projekt ihnen bescheren würde. Allein der Gewinn im ersten Jahr ließ alles, was sie im letzten Jahrzehnt durch Jagen und Fischen erwirtschaften konnten, lächerlich erscheinen. Ein kleines Mädchen möchte wissen, ob die Tiere im Riff stimmberechtigt sein sollen. Weil sie den Schaden haben, rief Wei. Weil sie den Schaden haben, wiederholte Didier. Profundo hielt einen Vortrag über Tierrechte, Tierethik und die Persönlichkeitsrechte von Tieren. Sie musste einrahmen, dass die Untiefen rund um die Insel von intelligenten Leben besiedelt waren. Sie benannte die Probleme, die sich in einer Kultur ergaben, die nur durch das Menschliche als heilig oder wichtig erachtete. Sie wies darauf hin, dass in der polynesischen Gründungsmythen auch andere Lebensformen göttlich und beseelt waren. Die Antwort überraschte durch ihre Merkwürdigkeit. Der Pavillon schwieg betroffen. Nach einer Weile stieß Venlai einen Fluch aus, so leise wie ein Gebet. Erschüttert ließ Didier den Blick auf die Runde schweifen. Auf allen Gesichtern machte sich dieselbe Erkenntnis bereit. Sie konnten dieses Monster alles fragen und die Antworten würden so unberechenbar ausfallen, wie Milliarden Seiten gesammelten Menschenwissens es zuließen. Sie trafen sich etliche Male in diesem Pavillon. Tagelang diskutierten sie mit Profunder in dem Buch, auch bilaterale Gespräche zwischen Einzelinselbewohnern und Profunder. Bilaterale Gespräche zwischen Einzelbewohnern und Profunder. Ich erzähle jetzt nicht, wie es ausgeht, für alle, die das Buch noch lesen wollen. Ich glaube, diese Entscheidung tritt da in einem gewissen Grad sogar tatsächlich in den Hintergrund, weil was bleibt in diesem Buch ist einfach die immense Vielschichtigkeit. Das Buch handelt von strukturellem Rassismus, von Naturkatastrophen bzw. Umweltzerstörung, von dem unterschiedlichen Umgang von Kulturen, auch mit Technologie und der Frage, was Fortschritt überhaupt bedeutet. Auch zum Beispiel über den Kampf von dieser Forscherin für Gleichberechtigung in der Forschung zu einer Zeit, wo Frauen einfach auf Forschungsschiffen überhaupt nicht vertreten waren. Das heißt vielmehr eigentlich zu den großen Fragen des Menschseins und der Menschlichkeit. Natürlich auch zu der Ambivalenz von Technologie, auch dem Einfluss von ökonomischen Strukturen und Konzernen auf die Wissenschaft. Strukturen und Konzernen auf die Wissenschaft. Aber es bleibt wirklich im gesamten Buch immer diese gemeinsame Hoffnung auch darin, dass eine andere Art von Denken, eine gemeinschaftsorientierte, eine naturverbundene, auch eine, die einfach empathisch ist, tatsächlich unsere gemeinsame Zukunft sein kann. Und das fand ich persönlich wahnsinnig schön. Trotz des sehr schwierigen Themas, trotz dystopischen Themen, hat das Buch einfach trotzdem auch mir immer wieder Möglichkeiten des Reflektierens und der unterschiedlichen Fragestellungen, wie wir dies gemeinsam uns in einer Zukunft vorstellen, aufgemacht. Das ein kleiner Einblick in das große Spiel. Wir gehen weiter zurück in der Zeit zu Harry Harrison und Make Room, Make Room. Martina, bitte. Ja, ich habe ein Buch gewählt, das 1966 bereits entstanden ist. Der Harry Harrison ist ein US-amerikanischer Science-Fiction-Autor, der sehr bekannt ist für seine sozialkritischen und auch satirischen Werke. Und er war auch ein überzeugter Pazifist und Umweltaktivist und hat das Buch zu einer Zeit geschrieben, wir kennen das glaube ich alle, wo die Berichte vom Club of Rome ja akut waren, aktuell waren und so weiter. Und sein Buch ist 1966 entstanden mit einem Blick ins Jahr 1999. Dieses Buch ist die Basis für einen Kultklassiker, für einen Film, den Sie vielleicht kennen. Und wenn Sie ihn nicht kennen, kann ich Ihnen empfehlen, ihn anzuschauen. Soylent Green. Soylent Green ist eine Zusammensetzung von Soja und Linsen. repliziert eigentlich darauf, dass die Menschen, die irgendwann einmal, es ist Make Room, Make Room, wie der Name oder wie das das auch schon zum Ausdruck bringt, da geht es um die Überbevölkerung, um die Ressourcenknappheit und um ein New York mit 35 Millionen Einwohnern, mit Menschen, die aufeinander im Stiegenhaus liegen und überhaupt keinen Platz mehr haben, wo es keine Ressourcen gibt, keine Ernährung, gar nichts. Und zu der Zeit, als Harry Harrison, also 1966, das geschrieben hat, hat man sich ja ernsthaft in den Berichten von Club of Rome Gedanken gemacht über die Ressourcenverschwendung, über auch die Welternährung und so weiter. die Ressourcenverschwendung über auch die Welternährung und so weiter. Der Film Soylent Green pervertiert das auch noch viel weiter, macht das Ganze noch viel düsterer. Und ich möchte, ich werde Ihnen jetzt schon verraten, wie das ausgeht, weil dieses Soylent Green, also es geht darum, dass die Leute nichts zu essen haben, dass die vor sich hin vegetieren. Und jetzt kommt natürlich auch die Frage, welche Rolle spielt die Maschine? Maschinen sind dazuhalten und eigentlich zu rationieren und auch die Geburtenrate zu kontrollieren, weil natürlich werden die Menschen immer mehr. Und Soylent Green entpuppt sich dann im Film. Also es geht darum, man hat zuerst Soylent Red und dann Soylent Yellow und es sind unterschiedliche synthetische Ernährungsquellen, bis man dann draufkommt, es handelt sich zum Schluss um Menschenfleisch. Und da geht es dann darum, dass man also wirklich die Maschinen und auch dieses ganze System so benutzt, dass der Mensch eigentlich nur mein Produkt ist. Und mir gefällt die Analogie, nachdem ich KI-Ethikerin bin, aus Hagenberg komme und auch gerade selber ein KI-Ethik-Buch mit 550 Seiten geschrieben habe und mir dieses Thema wirklich am Herzen liegt, ist mir dann gekommen, in der heutigen Zeit, wenn man das so ein bisschen ins Jetzt trägt, sind wir Menschen ja auch ein, also das Produkt sind jetzt eigentlich die Daten. KI-Systeme nutzen Daten von uns Menschen, um Algorithmen bestmöglich so zu schalten, dass sie uns genauso bestmöglich benutzen, monetarisieren und uns so auch verwenden können. monetarisieren und uns so auch verwenden können. Und ich habe mir auch ein, zwei, also zwei, genau, Zitate geholt. Eines, das Buch ist auf Englisch, ich habe aber auch eine deutschsprachige Online-Version und da kam, weil es ist natürlich nicht immer eins zu eins gleich übersetzt, aber da habe ich einen sehr guten deutschen Teil gefunden, den es im Englischen so in dieser Version nicht gibt. Und den würde ich Ihnen ganz gern vorlesen. Es ist ein Dreizeiler, der heißt Die Menschen hatten weniger, aber sie lebten besser. Bücher wurden gelesen, nicht recycelt. Man hörte sich zu. Es gab Zeit. Heute ist alles nur noch Funktion. Kein Mensch fragt mehr nach dem Warum. Technik, Technik, Technik. Und doch ist alles viel schlechter geworden. In dem Buch geht es, der Protagonist ist der Andy, das ist ein Polizei, Police Officerer unter Sol. Sol ist ein Mitbewohner von ihm, ein ehemaliger Intellektueller, der sehr darunter leidet, dass die ganze Zeit, so wie sie eben ist, in dieser Ressourcenknappheit, die Menschen sind extrem empathisch in dem Film, was mich auch besonders irritiert hat bei Soylent Green. Wie gesagt, das Buch ist die Basis dieses Films. Frauen werden als Inventar betrachtet. Frauen sind sozusagen, wenn man sich eine neue Wohnung kauft, dann kann die Frau mitgekauft werden vom Neuen. Es ist also alles so eine Perversion und so eine dystopische Überlegung. Und ich habe mir den Film und auch eben auch das Buch mir genau angeschaut und mir eigentlich gedacht, eigentlich müsste man ja, wenn in New York 40 Millionen Menschen leben, da müsste ja eine Riesenrevolte sein, die Menschen müssten ja miteinander kämpfen um die Ressourcen, aber das ist alles so entmenschlicht. Alles ist entmenschlicht, es ist alles nur grau Maschine eigentlich nur mehr dazu da ist, dieses Chaos oder auch diese Empathie aufrechtzuerhalten und eigentlich nicht um den Fortschritt und um was besser zu machen, sondern eigentlich ist die Maschine in den Händen von ganz wenigen, nämlich denen, die die Elite sind, denen, die entscheiden, was wir dann mit den Menschen machen. Und auch das würde ich auch heute sehen. Ja, also ich bin ja ganz stark eine Befürworterin und deshalb habe ich auch diesen Studiengang entwickelt, den ich da jetzt leite, dass es mehr Diversität braucht in unseren KI-Systemen, dass es nicht darum geht, dass eine kleine Gruppe diese ganzen KI-Entscheidungen macht und diese Daten einspeist und dass die Daten von einer sehr geringen Gruppe, wir kennen das in der Medizin, es sind primär weiße Männer um die 30 und deshalb brauchen wir Gendermedizin, deswegen brauchen wir differenzierte Systeme, deswegen brauchen wir bunte Daten usw. Und da habe ich dann schon viel Parallelen gesehen, vor allem wenn das Buch, wenn man weiß, dass die 66 geschrieben wurde. Ich würde Ihnen noch gerne einen zweiten Teil vorlesen, der ist direkt aus dem Buch und auch englisch. top gave a damn or listened to all the voices that were trying to warn them. They just let overproduce and overconsume. Until now, the oil is gone, the topsoil depleted and washed away, the trees chopped down, the animals extinct, the earth poisoned, and all we have to show for this 7 billion people fighting over the scraps that are left, living a miserable existence, Und was ich auch spannend finde, ich meine, er schätzt 66, dann blickend auf 1999, die Welt auf sieben Billionen, heute sind wir 8,1 Billionen Menschen. Und er hat das eigentlich sehr gut approximiert, hat das eigentlich gut gesehen. Und er hat das eigentlich sehr gut approximiert, hat das eigentlich gut gesehen. Und dieser Artikel hier ist sozusagen, oder dieser Teil ist ein Monolog von Sol, also diesem ehemaligen, sehr intellektuellen, älteren Herrn, der sich natürlich mit großer Sehnsucht und Wehmut zurückerinnert an die Zeit, als Menschen eben noch interagierten. Und es ist ein ganz starkes Plädoyer gegen die Ohnmacht und gegen diese Technik zum Aufrechterhalten des Systems, gegen diese Entmenschlichung und gegen diese kleine Elite, die in ihrer Gier gewisse Dinge eben aufrechterhalten möchte. Und diesen Artikel habe ich deswegen auch wirklich sehr gut gefunden, weil in dieser zunehmend technisierten und überbevölkerten Welt, in der Sol und auch Andy leben, dass es da einfach kaum mehr kritische Geister gibt. Also sowohl im Buch als auch dann im Film sieht man eigentlich niemanden mehr, der kritisch hinterfragt. Menschen, die einfach Dinge nur mehr als Tatsache hernehmen und irgendwo auch kein moralisches und auch kein kritisches Gewissen mehr haben. Und es gibt einfach noch ein paar wenige, und das ist ja auch in der heutigen Zeit ganz, ganz wesentlich, dass es Menschen gibt, die aufrütteln, die hinterfragen, die Dinge auch anders machen und dass natürlich schon auch Evidenz passiert. Das wäre schon auch ganz, ganz wesentlich. Ja, und dieses Buch hat mir einfach deswegen so gut gefallen, weil es eben schon so lange aus ist, aber dann doch irgendwie so viele Dinge, die uns eigentlich heute berühren und uns aktuell beschäftigen, antizipiert hat. Und ja, alles andere werden wir sicher noch diskutieren. Dankeschön. Gerne. Ja, und ich möchte jetzt zum ältesten Buch in unserer heutigen Reihe gehen. Wir waren 1966, jetzt springen wir ins Jahr 1909, also schon nochmal deutlich zurück. Irm Foster ist ja ein sehr bekannter Autor, Wiedersehen in Howards End, Zimmer mit Aussicht, da sind wahrscheinlich auch Menschen bekannt, die eher Filme anschauen als Bücher lesen, die sind doch auch sehr bekannt geworden. Dieses Buch hier ist dann doch sehr anders, es ist eine Erzählung, die ist eben das erste Mal 1909 in einem Magazin erschienen. Vielleicht auch noch Ian Foster ist in London geboren, 1879, also er war 30 Jahre alt, wie er dieses Buch geschrieben hat und ist dann 1970 gestorben. Er hat das dann nicht mehr miterlebt, was er da beschreibt. Aber ich finde es sehr, sehr eindrücklich und ich möchte gar nicht zu viel erzählen, sondern gleich einmal vorlesen, weil er sehr reinspringt in die Geschichte. Und wie gesagt, in Erinnerung rufen, es war 1909. Da gab es noch kein Internet und zwar noch lange nicht. Es geht um Vashti und ihren Sohn Kuno. Und es beginnt so. Es gibt keine Abluftöffnung und doch ist die Luft unverbraucht. Es sind keine Instrumente zu sehen und doch wird dieses Zimmer jetzt, da meine Betrachtung ihren Anfang nimmt, von wohligen Klängen durchpulst. In der Mitte steht ein Sessel, daneben ein Lesepult, mehr Mobilar gibt es nicht. In dem Sessel sitzt ein in Tücher gewickelter Fleischberg. Eine Frau, etwa anderthalb Meter groß, mit einem Gesicht weiß wie Pilz. Ihr gehört das kleine Zimmer. Eine elektrische Klingel läutete. Die Frau legte einen Schalter um und die Musik verstummte. Ich werde wohl nachsehen müssen, wer da ist, dachte sie und setzte ihren Sessel in Bewegung. Dieser wurde, wie die Musik, mechanisch gesteuert und so rollte sie nun ans andere Ende des Zimmers, wo die Klingel noch immer aufdringlich läutete. Wer ist da, rief sie gereizt. Seit die Musik spielte, war sie wiederholt gestört worden. Sie hatte Abertausende Bekannte. In gewissen Bereichen konnte die menschliche Kommunikation erhebliche Fortschritte verzeichnen. menschliche Kommunikation erhebliche Fortschritte zu verzeichnen. Den Hörer am Ohr breitete sich in ihrem Gesicht ein Lächeln aus. Sie sagte, nun gut, unterhalten wir uns. Ich isoliere mich jetzt. Ich gehe nicht davon aus, dass in den nächsten fünf Minuten etwas Wichtiges passiert, denn genau die bekommst du von mir, Kuno. Ganze fünf Minuten. Danach muss ich einen Vortrag über die Musik der australischen Periode halten. Sie betätigte den Isolationsknopf, sodass sie niemand mehr erreichen konnte, tippte mit dem Finger an den Lichtapparat und das kleine Zimmer versank in Dunkelheit. Mach schnell, rief sie und klang wieder gereizt. Mach schnell, Kuno, ich sitze hier im Dunkeln und verschwende meine Zeit. Ganze 15 Sekunden vergingen, bis die Scheibe in ihren Händen aufleuchtete. Ein erst blaues, dann dunkelviolettes Licht zuckte schwach darüber hinweg und schon war ihr Sohn, der auf der anderen Seite der Erde lebte, zu sehen. Und er sah sie. Kuno, wie lang du brauchst! Er lächelte ernst. Du scheinst mir gern zu trödeln. Ich rufe nicht zum ersten Mal an, Mutter, aber du bist immer beschäftigt oder isoliert. Ich habe dir etwas Wichtiges zu sagen. Was denn, mein lieber Junge? Schnell doch. Weshalb keine Rohrpost? Weil ich es dir persönlich sagen will. Ich möchte, nun, ich möchte, dass wir uns sehen. Vashti betrachtete sein Gesicht auf der blauen Scheibe. Aber ich sehe dich doch, rief sie. Was willst du mehr? Ich will dich nicht durch die Maschine sehen, sagte Kuno. Ich will auch nicht durch die lästige Maschine sprechen. Sei still, sagte seine Mutter verstört. Du darfst dich nicht maschinenfeindlich äußern. Warum nicht? Man darf es einfach nicht. Das hört sich an, als hätte ein Gott die Maschine erschaffen, rief Kono. Wahrscheinlich betest du zu ihr, wenn es dir nicht gut geht. Vergiss nicht, die Menschen haben sie erschaffen, begnadete Menschen, aber doch Menschen. Die Maschine ist vieles, aber nicht alles. Obwohl ich auf dieser Scheibe etwas sehe, das dir ähnlich ist, sehe ich dich nicht. Obwohl ich durch den Fernsprecheribe etwas sehe, das dir ähnlich ist, sehe ich dich nicht. Obwohl ich durch den Fernsprecher etwas höre, das dir ähnlich ist, höre ich dich nicht. Deswegen will ich, dass du zu mir kommst. Komm und bleib ein wenig. Komm ich besuchen, dann können wir Auge in Auge über die Hoffnungen sprechen, die mich bewegen. Ja, und die Vashti will ihn nicht besuchen, weil sie will aus dieser Zelle nicht raus. Diese Menschen leben unter der Erde in diesen Kapseln alle für sich, sind ganz sie andere Menschen wirklich zu begegnen macht, ihnen Angst. Also Vashti hat irrsinnige Angst, anderen Menschen zu begegnen und wenn sie dorthin reist, muss sie anderen Menschen begegnen. Darum wehrt sie sich da sehr, sehr lange dagegen. Sie fährt dann doch und besucht ihn. Und dort erzählt er ihr, dass er neugierig war und auf die Erdoberfläche gegangen ist, was da und dort schon erlaubt war. Da gab es spezielle Atemschutzmasken, wo man dann noch auf die Erde durfte, aber nur mit Genehmigung. Er ist da so heimlich raufgegangen und wird jetzt mit Heimatlosigkeit bedroht. Das ist die schlimmste Strafe. Heimatlosigkeit bedroht. Das ist die schlimmste Strafe. Also es gibt diese Maschine, es gibt das Handbuch, das Maschinenhandbuch, das schlagt man immer nach, wenn man was nicht weiß und es gibt ein ominöses Zentralgremium. Das ist alles, was diese Maschine steuert und worüber man Bescheid weiß. Und dann gibt es ihm diese Bestrafung der Heimatlosigkeit. Das wird nicht so ganz genau erklärt. Das ist irgendwie dann mit dem Tod verbunden. Also dieses Zentralgremium wahrscheinlich will immer weniger, dass Menschen auf die Erde gehen, es werden die Atemschutzmasken verboten und es gibt die Eindrücke nur mehr indirekt. Und das wird dann auch zum Dogma erhoben. Also es ist ja viel besser, das gar nicht selber in Erfahrung zu bringen, sondern es gibt so viele Denker, die das schon drüber nachgedacht haben, reflektiert haben, es ist viel besser, man orientiert sich an denen. haben, reflektiert haben, es ist viel besser, man orientiert sich an denen. Und es wird, obwohl man das Wort nicht so verwendet, immer mehr zur Religion, also das Handbuch wird zur Bibel, die man nicht hinterfragt, die man anbetet. Also das wird von Menschen teilweise richtig angebietet und auch dieses Zentralgremium. Genau. Und habe dann noch einen Abschnitt, den ich lesen möchte. Nur wer einem sehr engen Kulturverständnis anhängt, schreibt die beiden großen Veränderungen, also die Abschaffung der Atemschutzmasken und das Religionisierung dieses Lebens, dem Zentralgremium zu. Lebens dem Zentralgremium zu. Es hat sie verkündet, gewiss, aber ausgelöst hat es sie so wenig, wie die Könige des imperialistischen Zeitalters Kriege ausgelöst haben. Vielmehr unterlag das Zentralgremium einem übermächtigen Zwang unbekannten Ursprungs, aus dem sogleich weitere, nicht minder übermächtige Zwänge hervorgehen. Es ist bequem, in solchen Zusammenhängen von Fortschritt zu sprechen. Niemand wollte zugeben, dass die Maschine außer Kontrolle war. Man diente ihr und wurde darin von Jahr zu Jahr tüchtiger und törichter. Er sagte, er jene seines Nachbarn. Es gab auf der Maschine niemanden mehr, es gab auf der Welt niemanden mehr, der das Ungetüm restlos verstand. Die großen Köpfe waren umgekommen. Sie hatten genaue Anweisungen hinterlassen, wohl wahr, und ihre Nachfolger hatten sich je einen Teil davon angeeignet. Aber in ihrem Verlangen nach Annehmlichkeiten war die Menschheit zu weit gegangen. Sie hatte die Schätze der Natur fast aufgebraucht und versank allmählich in Wulf gefälliger Dekadenz. Wer Fortschritt sagte, meinte den Fortschritt der Maschine. Also einige Parallelen, würde ich sagen, zu dem, was wir schon gehört haben. Ja, und was dann passiert ist, dass es schon langsam zu Störungen kommt in dieser Maschine. Vashti hört sehr gern Musik von Beethoven und hört da immer so Kräuch- und Stöhngeräusche drüber, die sie sehr, sehr irritieren und stören, mit der Zeit aber immer weniger. Sie nimmt das dann einfach hin. Das ist halt so und sie gewöhnt sich dran und hinterfragt jetzt nicht die Funktion dieser Maschine und ihr Leben. Dann kommt es aber zu Problemen mit dem Schlafapparat. Es wird ja alles gesteuert von Apparaten. Und da die Menschheit dann doch nicht ohne Schlaf leben kann, bricht dann doch Panik auf. Und die erste Reaktion des Gremiums für den Korrekturapparat, den gibt es auch noch genau, das meldet sich dann zu Wort mit der wohl überlegten Botschaft, der Korrekturapparat sei selbst korrekturbedürftig. Und das wird anfangs noch sehr wohlwollend hingenommen, als dann aber die Luft immer schlechter wird, kein Licht mehr da ist, es ernährungsmäßig sehr, sehr schwer wird und vor allem die Menschen plötzlich wieder Schmerz verspüren. Das ist ein unbekanntes Gefühl, das sie nicht mehr kannten, weil sie so umsorgt waren von dieser Maschine. Fangen Sie erst an, zu diesem Buch zu beten. Das ist so der greifbare Beweis der Omnipotenz der Maschine. Und richtiges Chaos bricht dann aus, als das Kommunikationssystem zusammenbricht. Dann fliehen die Menschen aus ihren Kapseln und sterben. Sie haben dann keine Lebenschancen mehr, weil die Maschine stillsteht. Darum auch dieser Titel. die Maschine stillsteht. Darum auch dieser Titel. Und da bemerkt die Waschte, die ja so eine Verfechterin dieses Lebensstils ist, dass es die Menschen gewesen sind, die ja eigentlich wichtig gewesen waren auf dieser Welt. Und dass ihr dieser Gedanke an das Ende der Menschheit jetzt sehr, sehr unerträglich ist. Und sie begegnet dann dem Kuno noch einmal, weil den verstößt sie ja dann, er ist ja Abtrünniger da als Erderforscher. Und sie sterben dann gemeinsam und nehmen folgenden Gedanken mit. Wir sind wieder wir selbst. Wir sterben, aber das Leben gehört uns wieder. uns wieder. Mit diesem Gedanken sterben die beiden dann. Ja, also ich fand das einfach extrem interessant, was sich ihr im Forster da überlegt hat. Also die Geschichte, wenn man an soziale Medien denkt, in denen wir oft schon lieber kommunizieren, als dass wir Menschen begegnen. Nicht wir alle, wir sind Gott sei Dank alle hier da. Aber doch eine Tendenz dazu, dass wir eben lieber mal ein E-Mail schreiben, als schon mal jemanden anzureifen oder mal überhaupt zu sagen, hey, treffen wir uns. Und abgeben an allem, an Algorithmen, die wir nicht verstehen, an Unternehmen, wo wir eigentlich keine Ahnung haben, wer die leitet, wer dafür sorgt, wer das entscheidet, wie wir da kommunizieren und wie wir da versorgt und umsorgt werden vermeintlich. Das fand ich auch noch interessant fand, was er sehr aufgreift, er beschäftigt sich viel damit, was macht es mit den Menschen, dass sich die nicht mehr bewegen. Weil die sitzen ja da in ihren Kapseln und werden nur mehr herumbewegt. Es sorgt nämlich nicht für Ruhe, sondern die Menschen bewegten sich kaum noch. Die Unrast war in ihren Seelen. Also es gibt einfach den Bedarf und wir können da viel mit Bewegung abdecken. Das überspringe ich jetzt. Genau. Und ich gehe noch mal zum Schluss zu einer wichtigen Erkenntnis von Kuno, der ja so der Kritiker ist, vielleicht im Unterschied jetzt, wo wir immer den Jungen vorwerfen, sie nehmen das alles so unkritisch, wir Älteren, aber da ist es ja genau umgekehrt. Er kommt zu folgender Erkenntnis. Versteht ihr denn nicht? Versteht all ihr Redner denn nicht, dass wir es sind, die sterben, dass allein die Maschine hier unten wahrhaftig lebt. Wir haben sie erschaffen, uns zu dienen, aber sie dient uns nicht mehr. Sie nimmt uns das Gefühl für den Raum und den Sinn für Berührungen. Sie betäubt alle zwischenmenschlichen Beziehungen, reduziert Liebe auf einen fleischlichen Akt, lehnt unsere Körper und unseren Willen und jetzt zwingt sie uns auch noch, sie anzubeten. Die Maschine entwickelt sich weiter, aber nicht in unserem Sinn. Die Maschine macht Fortschritte, aber nicht zu unserem Nutzen. Wir sind die Blutkörperchen, die durch ihre Adern zirkulieren. Würde sie auch ohne uns funktionieren, sie ließe uns sterben. sie ließe uns sterben. Ja, damit mal der Eindruck zu I.M. Forster und die Maschine steht still. Ja, vielleicht mal, bevor wir dann alle drüber diskutieren, darum gerne schon mal überlegen, was so eure Gedanken dazu jetzt sind, welche Fragen bei Ihnen auftauchen, dann bitte ein kurzes Zeichen mit der Hand. Wir haben da ein Mikro. Das teilen wir dann aus, damit auch online, weil wir es ja auch online machen, unser Technik-Thema mithören können. Aber vielleicht mal an euch beide die Frage. Ja, wenn ihr jetzt so über diese drei Bücher drüber schaut, auch mit eurem Hintergrund, eurem Wissen, wie geht es euch dann? Was geht euch so durch den Kopf? Darf ich dich bitten? wenn sie aus komplett unterschiedlichen Zeitspannen stammen, sehr viele Parallelen gesehen darüber, wie wichtig vor allem die Reflexionsfähigkeit, auch die Technologieeinschätzungskompetenz von uns Menschen ist, wie wichtig es ist, nicht das System einfach hinzunehmen, sondern zu hinterfragen, konstant zu hinterfragen, wer dahinter steht, wie die Systeme entwickelt werden, auch konstant zu hinterfragen, wer dahinter steht, wie die Systeme entwickelt werden, auch seinen eigenen Umgang damit zu hinterfragen, ob das vielleicht gut ist, so zu leben oder ob darin auch einfach ein Problem des ökologischen Fußabdrucks, wie in dem Buch beschrieben wurde, entsteht. Und diese Reflexionskompetenz ist, glaube ich, etwas, was wir in allen Büchern sehr, sehr stark vertreten haben. Gleichermaßen sieht man auch in allen drei Büchern sehr stark das Hinterfragen des Systems. Wie können wir diese Maschinensystematiken, wie können wir die Unternehmen, die dahinterstehen, wie können wir die Strukturen, die das geschaffen haben und eigentlich kontrollieren sollen, auch managen? Wie kann man auch oder wollen wir überhaupt als Gesellschaft tatsächlich so viel Daten auch an Privatkonzerne übergeben? geben. Mittlerweile in einigen Fällen Konzerne, die sicherlich viel mehr Daten haben als gewählte Regierungen. Ist das ein Aspekt? Das sind Themen, die ich jetzt in beiden oder in allen drei Büchern sehr, sehr stark widerspiegeln gesehen habe. Dankeschön. Martina? Ja, ich habe eigentlich zwei so Technikfolgeabschätzungskonzepte im Kopf. Das eine ist Dual Use. Das heißt, jemand konzipiert eine Maschine, eine Technologie, ein Flugzeug und dann kam 9-11 und 9-11 hat gezeigt, man nimmt ein Flugzeug und macht eine Waffe daraus. eine Waffe daraus. Das heißt, ich kann im besten Wissen und Gewissen was konzipieren. Wir kennen alle den Film Oppenheimer und es ist wirklich gar nicht gut gewesen zu sehen, was aus seiner Technologie geworden oder für was er da eigentlich geschaffen hat. Das heißt, ich habe einen guten Gedanken und die Menschheit macht oder irgendwer macht halt ganz was anderes draus. Und das Zweite, was mir da so ein bisschen einfällt, auch mit allen drei Büchern, ist das Collingridge-Dilemma, auch ein Phänomen der Technikfolgeabschätzung, das besagt, eine Technologie kann man erst dann gut abschätzen, wenn sie in der gesellschaftlichen Mitte angekommen ist. Nur wenn sie dort angekommen ist, ist es zu spät, sie rückgängig zu machen. Und das war ein bisschen, als die Generative AI kam und Italien, ich weiß nicht, ob ihr euch erinnern könnt, dann gemeint hat, ungefähr eine Stunde, wir drehen das jetzt ab. Wir erlauben Chachipiti nicht. Geht natürlich nicht. Die waren relativ schnell eines Besseren belehrt. Aber das ist auch so ein bisschen. Und bei all diesen dreien ist ja immer die Frage, wo geht die Reise hin? Und was machen wir Menschen? Wie nutzen wir die Maschinen? Und das ist halt ein doch sehr interessantes Thema. Und die kritische Reflexionskompetenz ist das wohl Wesentlichste, das wir benötigen. Ja, danke schön. Welche Gedanken, Fragen gehen Ihnen durch den Kopf? Bitte schön. Gedrängt. Ja, bei dem, Barbara, was du ausgewählt hast, 1909, finde ich es unglaublich bemerkenswert. Also dieses Display im Prinzip, das er hier beschreibt und wie wir jetzt in dieser Zeit, in dieser heutigen Generation Welt hier kommunizieren, eben dieses Voraussehende zum einen. mich mal mit, so diese Frage, wie viel von meinen Wahrnehmungen, von meinen Sinnen gebe ich ab an eine Maschine, gerade kürzlich wohin gefahren, habe nicht gewusst, wo fahre ich ab, nach Gmunden, habe mich aufs Navi verlassen, bin dran vorbeigefahren, bin wahnsinnig geärgert, also sozusagen auch dieses Kartenlesen, was kann ich selbst als Mutter mitgeben an einen adolescenten Jungen, dass er das Kartenlesen lernt, also ganz so banale Dinge, gebe ich meine Daten an eine Uhr ab und schlafe mit der, die mich dann stört oder misst man den Puls mit dem Pulsgerät, also auch sozusagen dieser Aspekt. Und meine Frage an euch beide ist, ihr seid ja sehr affin im Lesen von Originalliteratur, da interessiert mich noch die Rezeption, habt ihr da oft auch den Wunsch, das Original zu lesen? Oder euch dann Passagen, wie du sagst, Martina, zum Beispiel auch zu übersetzen, zu sagen, ich bin mit der Übersetzung nicht glücklich? Vielleicht da noch ein paar Worte dazu. Also Original englische Literatur ins Deutsche oder welche Version? Also ich bin gelernte Dolmetscherin in meiner Erstprofession und als solche mit Französisch, Englisch und Spanisch ziemlich zu Hause in den Sprachen. Und ich kann keinen Film nicht im Original anschauen, das hält ja nicht aus auf Deutsch. Und ich lese natürlich alles auf, immer in dem Original. Also immer nicht in jeder Sprache, aber in den Sprachen, die ich beherrsche, lese ich es immer im Original. Mir geht es ein bisschen anders, ich habe es eh vorher schon erzählt. Ich habe bei Ars Electronica, unser Team ist englisch sprechend. Ich lese auch vor allem die professionelle Literatur eigentlich nur auf Englisch. Wenn ich dann privat lese, versuche ich schon sehr viel Deutsch zu lesen und wähle dann auch sehr bewusst oft deutsche Übersetzungen aus. Und gerade in dem Buch hat mir das einfach wieder immens Spaß gemacht. Das ist einfach, deutsche Sprache ist einfach etwas extrem Schönes, wenn sie so geschrieben ist, wie dieses Buch. Ein Moment, ein Gedanke von mir zu dir, der ja auch durch diese Bücher so schwingt, eben was du schon angesprochen hast, wir schaffen Technologie, damit sie uns unterstützt und das ist auch super, dass ich Google Maps nutzen kann. Also ich mache das auch gern, aber ich gebe extrem viel ab und ich merke das ewig, so, jetzt habe ich die Kompetenz nicht mehr, weil ich das dann anbete, dann brauche ich es nicht mehr hinterfragen und kann mir so meine eigene kognitive Dissonanz sehr gut reduzieren, was ich da eigentlich mache. Gut, wir haben zwei Anmeldungen, eine da. Soweit ich das jetzt erlebt habe, haben Sie Bücher ausgewählt, die sehr dystopische Szenarien eigentlich entwerfen. Hätte es eigentlich eine Literatur gegeben, die positivere Mensch-Maschine-Visionen zum Thema gemacht hätte? Oder gibt es da nichts? Ich weiß es ehrlich gesagt nicht. Vielleicht kennen Sie, wer im Publikum die meisten sind, sicher dystopisch, aber sehr unterschiedlich graduell. Also ich finde, Megroom Megroom ist eine richtig durchgehende Dystopie. Also da findet man nichts mehr, wo man sagt, okay, irgendwie doch lebenswert. Bei Richard Powers will ich das gar nicht so empfinden. Da hat man nicht dieses beklemmende Gefühl. Und er beschreibt auch ganz bewusst sehr, sehr oft, dass die Gestaltungsoptionen, auch die Gestaltungsppower bei uns liegen, in der Gesellschaft, dass es eher darum geht, dass wir uns als Kollektiv einig werden, was wir wollen und auch das dann entgegen der Regierungen etc. durchsetzen und entgegen der großen Tech-Konzerne. Das hat natürlich in einigen Punkten sehr wohl Dystopisches, referenziert auch fantastisch in manchen Elementen auf die Gegenwart, auf die großen Probleme aus Silicon Valley. eigentlich nur ein Mittel sein sollte, der Gesellschaft zu dienen und wir als Gesellschaft darüber entscheiden müssen, was genau dieser Zweck ist. Und ich finde es eigentlich überhaupt nicht dystopisch formuliert. Vielleicht kann ich ganz kurz was dazu sagen. Keine Literatur, aber tatsächlich ein Gesetzestext, nämlich der EU-EI-Act, den Europa letztes Jahr auf... Und ich denke mir, was ist die Rolle von Europa im KI-Wettrennen? Ich meine, wir spielen keine Rolle. Wir sind höchstens Schiedsrichter zwischen China und den USA. Aber wenn was wirklich gut funktioniert, dann hat Europa explainable AI, trustworthyworthy AI, Ethical AI, also wir sind die, die wirklich vertrauenswürdig, ethisch und auch diese verantwortungsvolle Technologie und dieser EU-AI-Act ist nicht nur ein Rechtsrahmen, sondern vor allem auch ein ethischer Rahmen und Europa geht diesen Weg. Und dieses Forschungsfeld von Explainable AI, also erklärbare KI, das ist ein großes Forschungsfeld, das sich Europa angenommen hat und das ist sehr, sehr positiv und sehr, sehr gut. Und I.M. Foster ist zwar schon eine Dystopie, aber er endet mit einem Hoffnungsschimmer. Das habe ich nicht erzählt. Als Kuno da auf die Erde kommt, begegnet er Menschen. Also das sind Menschen, die halt auch mal rausgegangen sind, so wie er, und dort geblieben sind. Die haben es dann irgendwie geschafft, auch mit normaler Luft zu leben. Und so wie wir halt jetzt alle leben, die haben das wieder hingekriegt und sind dann dort geblieben. Ein kleines Grüppchen aber begegnet denen und das ist dann auch seine Hoffnung beim Sterben. Wir haben keine Chance, seine Mutter und er, wir werden sterben, aber wir wissen, die Menschheit wird weiter existieren, weil ich habe die Menschen erlebt, das erzählt er auch seiner Mutter noch und die können dort weiterleben. Also es ist zwar schon vom ganzen Setting eine Dystopie, aber es endet mit diesem es gibt den Widerstand, es gibt die Menschen, die das nicht hinnehmen und die einfach ihren eigenen anderen Weg gehen und die können dann die Menschheit weiterleben lassen. Genau. Bitte um das Mikrofon. Genau. Ich wollte zu Ihnen erstmal noch etwas sagen, dass Sie sagen, es gibt wenige, die noch so aktiv sind, sondern es geht alles über die Digitalisierung oder KI oder so. Ich werde immer etwas angeranzt. Ich bin eine Frau, die, also ich werde jetzt schon langsam als hartnäckig beschrieben. Das finde ich auch sehr gut, mag ich auch. Ja, dazu stehe ich auch, dass ich einfach Sachen aufblättere. Ich habe alles nicht. Ich habe ein altes Telefon und das reicht mir noch nicht, mein Fernseher. Ich habe alles nicht, ich habe ein altes Telefon und das reicht mir noch nicht, mein Fernseher. Und dann ist diese andere Seite, dass ich dadurch, dass ich offen bin, sehr viele Leute kennenlerne. Also mir ist jetzt passiert beim Crossing Europe, zufälligerweise, war bei der Abschlusspressverleihung da und saß dann zufälligerweise mit Berlinern zusammen. Ja, ist witzig. Die filmen einen mit jemand aus dem Deutschlandfunk. Und dann sehe ich einen Mensch am anderen Tisch, der ist dann plötzlich aufgetaucht, ganz in weiß, blonde, lange Haare. Vielleicht weiß jetzt jemand, vielleicht wissen einige, wer es ist. Das war der Hannes Schleger, der gerade die Ausstellung eröffnet hat. Und da habe ich gesagt, sind Sie das hier? Da habe ich gesagt, setzen Sie zu uns und dann haben wir eine ganze Weile geredet. Und das finde ich total, das geht verloren, weil viele sagen, du kennst so viele. Weil ich einfach die Leute anspreche. Und ich weiß wirklich nicht, wohin das führt, weil jeder nur noch in diesem Kasten sitzt. Also das, was in dem Buch ist, das ist so beispielhaft, in den Wohnungen mit ihren Apparaten und manche gehen gar nicht mehr spazieren. Jetzt hat jemand aus dem Haus, der mir manchmal hilft, gesagt, ich war jetzt im Botanischen Garten, der wohnte aber normalerweise in geilen Kirchen. Das war für ihn ein Erlebnis. Da sage ich, aha, okay, gut. Also das sind so Sachen, die ich so mitkriege, weil ich anders noch, was ich drauf bin, einfach anders bin, auch vom Denken her. Also wenn mir was nicht gefällt, dann versuche ich es aufzublättern. Das kennst du ja vielleicht auch ein bisschen von mir, dass ich dann spontan bin und sage, zack. Aber das ist so. Und das ist oftmals auch gut, da haben wir nicht dran gedacht oder was ich irgendwie. Dass sie sagen, ja, du hast einen anderen Blick. Das wollte ich damit sagen. Ja, es ist ja total schön, in der analogen Welt zu leben. Es ist ja auch total wichtig. Ich glaube, das Einzige, was wir einfach noch mitdenken müssen, ist, dass die gesellschaftliche Teilhabe derer, die sich mit digitalen Tools in aller Lange nicht auseinandersetzen werden, immer geringer werden wird. Man kann dann irgendwann vielleicht gar kein Ticket mehr lösen, man kann immer mit dem Zug fahren, man kann immer verreisen. Daher muss sich diese gesellschaftliche Teilhabe für wohl alle und auch ins hohe Alter sicherstellen. Das ist, glaube ich, das große Thema. Der Rest ist eine Entscheidung. Ja, bitteschön. Einen Moment, der Würfel kommt dran. Da könnte man aber dazu sagen, nun sollte man halt solche Öffnungen, solche Tore zur analogen Welt pflegen. Vielleicht als kleinen Nebenfluss neben dem Auffluss. Verstehen Sie, nicht nur für die Älteren, ich zähle mich ab, ich werde es nicht mehr umsteigen. Aber ich habe drei, vier Kinder, die affin sind zu den neuen Sachen. Aber wenn ich was brauche, dann gehe ich zu denen. Aber grundsätzlich wäre es, glaube ich, schon vielleicht virtuell überlegenswert, dass man einen analogen Strang sozusagen weiter pflegt. Absolut. Ich glaube, jede Generation hat auch ehrlicherweise ihre eigenen Herausforderungen mit Technologie. eigenen Herausforderungen mit Technologie. Ich kann mich nur selber erinnern, als ich 15, 16 war und die ersten Social Media Plattformen auf den Markt gekommen sind. Der Umgang von uns damals mit Social Media war furchtbar, komplett unreflektiert. Da ist die heutige Generation sicher viel weiter. Gleichermaßen wissen wir heute auch viel mehr wiederum, was die Wertigkeit von Kommunikation abseits dieser Social-Media-Plattformen ist. Und es geht sicherlich auch darum, sich immer wieder zu besinnen und eben, wie wir, glaube ich, schon mehrfach heute erwähnt haben, auch zu reflektieren. Für was setze ich das ein? Also einen reflektierenden Umgang auch, einen bewussten Umgang mit den Technologien auch, dass ich nicht unbedingt jetzt 100 Videos prompten muss, die auch sonst niemand braucht, sondern auch wirklich vielleicht für sinnvolle Maßnahmen einsetze. Ich glaube aber auch, dass es kein Schwarz und Weiß geben kann. Also am Ende des Tages, ich habe auch in dem Buch, das einzige Problem, das ich ehrlicherweise mit dem Buch hatte, ist, dass diese Pazifikinsel Makatea sehr romantisiert dargestellt wird, als das Refugium, auf das man flüchten kann, um diesem ganzen digitalen Wandel irgendwie zu entkommen. Das wird halt auch nicht die Lösung sein. Also wir werden Lösungen finden müssen, die im Einklang mit technologischen Entwicklungen stehen. Und das gleichermaßen natürlich aber immer noch Zugang ermöglicht für jene, die das nicht als primäre Einstiege sehen. Noch so ein Gedanke, weil ich so ein bisschen auf die Fragen geschaut habe. Warum nutzen wir so viele Maschinen und haben dennoch immer weniger Zeit? Also die Wasch, die zeigt uns das ja extrem vor. Also die braucht gar nichts mehr tun. Die sitzt nur mehr auf ihrem Stuhl und drückt ein paar Knöpfe und gibt ein paar Anweisungen und ist völlig gestresst. Also ist gestresst, weil der in 15 Sekunden noch nicht gesagt hat, was sein Anliegen ist. Und sie hat fünf Minuten für ein Gespräch mit ihrem Sohn auf der anderen Seite der Erde. Aber das ist ja ein Phänomen, das viele von uns kennen. Also ich nehme mich da nicht aus. Und da meine ich jetzt nicht nur künstliche Intelligenz und IT-Maschinen. Maschinen, das fängt ja schon mit Waschmaschinen oder sonst was an. Ich habe nicht das Gefühl, dass deswegen so viel mehr Zeit ist. Habt ihr da Gedanken, Ideen dazu? Mal ihr beide, aber gerne auch die Menschen bei uns als Gäste. Also für mich ist es die schnelllebige Zeit. Wir leben in einer unendlich schnelllebigen Zeit. Es muss alles schnell, wir haben keine Geduld mehr. Und wir haben einfach auch im Sinne dessen, was wir unterkriegen in einem Tag, eben mit diesen Tools. Weil in Wahrheit sind, wenn man KI-Tools vernünftig nutzt, sind sie wertvolle Werkzeuge. Was ich aber auch vielleicht noch sagen will, wenn man alle diese JetGPT-Tools benutzt, ich benutze sie oft und weise auf meine Studierenden an, irgendwann kommt so ein Einheitsbrei heraus. Das bringt mich dann auch zur Kreativität. Das kann das Tool nämlich gar nicht. Das sind wir nämlich tatsächlich und man merkt sofort, wenn man eine Seminararbeit korrigiert, woher das kommt. Aber was ich sagen möchte, ist einfach, diese Tools helfen uns, so wie früher der Rechenschieber und dann die Schreibmaschine, was auch immer. Das potenziert sich halt jetzt nach oben. Einfach schneller, effizienter zu werden. Wir könnten die freigespielte Zeit nutzen, um uns zu entschleunigen, um was Gutes zu tun, ein Buch zu lesen. Sehr viele tun das aber nicht, sondern werden einfach im Rhythmus noch schneller arbeiten, noch effektiver und so weiter. Das ist aber auch oft eine Entscheidung, die man selber machen kann. Und ich glaube, das hängt gar nicht so sehr zusammen mit Maschinen an sich, sondern mit unserem Gesellschaftssystem, dass wir einfach wahnsinnig gedrillt darauf sind, effizient zu sein, auch immer mehr leisten zu können, ständig im Wachstum sein zu wollen, ständig mehr erreichen zu wollen. Ich glaube, in dem Zitat, das ich heute mal vorgelesen habe, irgendwie unsere eigene Schöpfung uns vorzustellen als das Genialste, die größer sein muss als alles andere und dann, wenn man es eigentlich schafft, auch nicht glücklich ist. Ich glaube, es geht auch manchmal darum, sich selbst einfach zu entschleunigen und selbst auch die bewusste Entscheidung zu treffen. Das muss nicht alles sein. Und es ist auch völlig in Ordnung so. Ich wollte genau zu diesem Punkt noch einmal kommen. Das haben Sie am Anfang gesagt, von der Schnelllebigkeit der Zeit. Kann man nur sagen, das ist eine Floskel, denn die Zeit ist immer gleich. Die ist nicht schnelllebig. Wir sind es. Und dazu gehört zum Beispiel die empirisch festgestellte Tatsache, dass Jugendliche im Alter von 15, 16 drei bis vier Stunden am Tag vorm Fernseher oder vorm Handy sitzen. Ich habe da keine Erfahrung, aber wir sind es, die das entscheiden eigentlich. Aber das sind natürlich sehr starke wirtschaftliche Interessen, die dagegen sprechen, gegen eine Verlangsamung. Man müsste sagen, Kleidung könnte viel, viel länger getragen werden, wenn sie von guter Qualität und gutem Entwurf ist und so weiter. Wahrscheinlich liegt es schon auch in uns Menschen, dass wir sehr schnell das Gefühl haben, etwas zu versäumen. Wir wollen immer am Drücker sein, wollen alles mitbekommen und das wird da sehr bespielt. Wenn ich jetzt auf den sozialen Medien bin, den Stream habe ich nie durch, da habe ich nie alles erfahren. Wenn ich dann noch vielleicht Push-Nachrichten bekomme, die mich dann wieder reinholen, da könnte ich, ja, aber wir sind wahrscheinlich auch simplere Wesen, als wir es gerne wären. So viel mein Gedanke auch dazu. Da funktionieren wir sehr, sehr einfach dann wieder. So komplex wir auch sind. Ja, bitte nochmal den Mikrowürfel. Also ich denke, dass das, was ich glaube letzte Woche passiert ist mit dem Blackout, uns doch zum Nachdenken anregen sollte. Was machen wir wirklich, wenn sowas passiert? Können wir überhaupt, also ich schließe mich jetzt aus, weil ich nicht so vernetzt bin, aber können Menschen noch mit ganz normalen Dingen umgehen? Also ein Beispiel, wenn ich meine Lesebrille nicht auf habe, kann ich einen Farbplan nicht lesen. Also ich habe letztens von einer Vesper das aufgeklappt und habe jemanden gefragt, könntest du mir das bitte mal vorlesen? Was willst du denn? Na ja, ich brauche bloß, ob der jetzt Vorhalb oder Nachhalb. Ich such dir das da. Nein, da steht es. Und sie konnte es nicht wirklich vom Fahrplan ablesen. Und das erschreckt mich, gerade als dieser Blackout war, denke ich, was machen wirklich die Menschen, so wie in deinem Buch? Wenn sowas passiert, können sie überhaupt noch normal, sage ich, wie früher vor 40, 50 Jahren mit Dingen umgehen? Muss man allerdings einen Fahrplan lesen können, wenn ein Blackout existiert, stelle ich auch in den Raum als Frage. Nein, aber natürlich. Bitte. Ja, ich würde nur mal gerne auf das Thema Beziehung zwischen Mensch und Maschine zurückkommen. Das heißt, das hat auch das, was du eingangs gesagt hast, dass man ein Ebenbild schafft. Und ich habe schon den Eindruck, dass wir auf eine Zeit zugehen, wo Mensch und Maschine viel mehr auf Augenhöhe passieren wird. Das heißt, wo Maschinen beginnen zu managen, auch Entscheidungen zu treffen, die über Personen drüber gehen und wir das in gewisser Hinsicht da zulassen werden, weil es einfach bequem ist, weil es vielleicht sogar, wenn man es jetzt nur weiterdenkt, vernünftig ist, weil sehr viele rationale Entscheidungen, die heute in der Politik getroffen werden, vielleicht von einer KI besser getroffen werden könnten. Und wir in Richtung einer Planwirtschaft gehen, die jetzt eine ganz andere Form hat, als die, die wir kennen historisch. Das heißt, wie würdet ihr sagen, aufgrund von den Büchern oder aufgrund von euren Erfahrungen, können wir uns auf das vorbereiten, ohne dass es so angstbesetzt ist? Weil das Neue macht Angst, ich sehe klar, das ist etwas, was eigentlich nicht gut ist. Es soll Neugier nach sich ziehen. Wie bereiten wir uns auf das vor, dass Maschine und Mensch stärker ineinander fliegen oder nebeneinander existieren, wenn die Maschinen einfach Kompetenzen haben, die man bis jetzt nur Menschen zugeschrieben hat. Tyschen? Wer von euch möchte beginnen? Ja, ich habe da ganz kurz gezuckt, aber nur deshalb, weil es gibt den sogenannten Automation Bias. Der Automation Bias besagt, dass wir Menschen tendenziell diese Technikgläubigkeit haben und glauben, dass eine Maschine, wenn sie was entscheidet, eher Recht hat. Die Frage ist, wer gibt denn die Daten in die Maschine ein, wenn nicht wir Menschen? Und es war früher so, beim Tennisspielen haben die Linienrichter, die Menschen waren, hat man stundenlang, vielleicht minutenlang diskutiert, wo denn jetzt der Ball liegt. Als dann die Maschinen das übernommen haben, also als das dann von der KI berechnet wurde, hat man das einfach für bare Münze genommen. Das war ja nicht die Maschine, die das errechnet hat, sondern auch das waren Daten, die von Menschen eingegeben worden sind. Und ob das jetzt gut ist, dass wir an die Maschine delegieren? Es gibt in Amerika zahlreiche Systeme, die das gemacht haben. Allen voran die COMPAS. COMPAS war eine so eine Art Predictive Policing. Da habe ich mir sozusagen angeschaut, wer wird wieder straffällig. Da ist man dann ganz stark drauf gekommen, das war hochgradig rassistisch und so weiter. Das heißt, wir in Europa, EU-EI-Act, erlauben das nicht. Wir erlauben keine Kreditwürdigkeitserrechnung. Der Steven Wozniak, wir kennen ihn alle, den Apple-Gründer, er und seine Frau haben das komplett gleiche Konto, die gleichen Vermögenswerte und seine Frau kriegt ein Drittel weniger Kreditrahmen von der KI. Warum? Als einzige Komponente, weil sie eine Frau ist. Und das kann ich jetzt nicht die KI entscheiden lassen. Das geht nicht. Da müssen wir, und das nennt man den Human Oversight oder Human in the Loop, wir Menschen müssen die Letztinstanz haben. Dass man die KI verwendet fürs Sichten ist klar. Thema Bias ist ja nichts Neues. Das Thema Bias ist ja überall dort, wo menschliche Entscheidungen genauso zugrunde liegen. Das heißt also, dass ein Richter einen Jugendlichen, der schwarz ist meinetwegen, unter einem ähnlichen Verhältnis kommt, anders vorurteilt als einen anderen Jugendlichen, weil eine Straftat erleben wir genauso da. Das heißt, das spiegelt sich eigentlich nur wieder. Genau, das spiegelt der Gesellschaft. An dem Genau, das ist der Spiegel der Gesellschaft. An dem kann man arbeiten aufgrund der Datenbasis, die da drinnen steht. Genau. Aber nichtsdestotrotz habe ich natürlich ein Agglomerat an Daten, das vielleicht sowas schafft, wie, ich übertreibe es jetzt einmal ein bisschen, einen neuen Gottbegriff. Das heißt, wir haben etwas, was allwissend ist oder wo wir die Zuschreibung liefern, dass das allwissend ist und wir geneigt sind, Dinge, die allwissend sind, mit Glauben zu beschenken. Das ist eh das, was du schon erzählt hast. Also wie sind wir denn, also wie sind Religionen entstanden? Das heißt also, wir werden beginnen daran zu glauben. Und trotzdem braucht es ganz, ganz unbedingt der Human Oversight, also diese menschliche Kontrolle, einfach ständig kritisch zu hinterfragen, ob die Informationen, die uns da ausgespült werden, korrekt sind. Ich bin letzte Woche, kurze Anekdote, kontaktiert worden von bayerischen Geschäftspartnern von uns, weil die Person gepromptet hat oder ChatGPT gefragt hat, was sind in Europa die zehn spannendsten KI-Summer-Schools. Sie möchte sich jetzt davor bilden. Und ChatGPT hat einen Platz drei als Elektroniker gewählt mit sehr, sehr überzeugenden Argumenten, die absolut real klingen mit einer Information, was die Benefits von der Summer School sind, wann die Summer School jährlich stattfindet, wie man sich da anmelden kann. Es ist nur falsch. Es stimmt einfach nicht. Und das zeigt so eindrücklich, warum wir einfach in dem Prozess noch viel mehr Reflexion reinbringen müssen als zuvor. Aber da hinten gibt es noch eine Frage. Ich möchte vorher auch einen Gedanken dazu stellen, bevor wir dann die Frage weiter besprechen. Ich denke, die Welt ist irrsinnig komplex und unvorhersehbar. Und es wird uns nie gelingen, sie zu durchschauen und zu wissen, was wirklich kommen wird. Das macht irrsinnig Sorge und Angst. Aber wir schaffen das schon so lange auf dieser Welt. Und natürlich gab es manchmal Hilfestellungen über Religionen, wo man dann halt versucht, dort Antworten abzugeben, jetzt dort. Aber letztendlich haben wir es immer wieder hingekriegt mit dieser Unvorhersehbarkeit, mit dem auch nicht alles zu verstehen, trotzdem wieder zu uns zu finden. Und eben diese widerständigen Menschen, die es immer wieder gibt, die machen mir auch Hoffnung. Die sagen, so nehme ich das nicht hin. Und auch wenn alle diese Bibel und das Zentralgremium anspäten, irgendjemand tut es nicht. So, noch mein Gedanke dazu. Die Hoffnungsdringer. Bitte schön. Mein Name ist Führräder und ich denke, dass die Zukunft in der Balance liegen wird. Das ist meine Meinung. Darin wird auch die größte Schwierigkeit sein, weil immer das Vorwärtsstreben ist wie im Sport genau dasselbe. Und das Gleichheitsprinzip liegt ja eigentlich in der Natur der Sache. Die Natur entwickelt sich selbst. Computer und KI entwickeln sich nicht von selbst. Darin liegt das Problem. Wollt ihr zu dem Gedanken noch etwas zustellen? Ich glaube absolut, es ist nicht nur die Herausforderung liegt in der Balance, es ist auch ein Balanceakt, die richtigen Mechanismen da zu finden. Ich finde, wir sind, wie Martina schon gesagt hat, in Europa wirklich auf einem fantastischen Weg an sich. Es sind Grundlagen geschaffen. Ich finde, gerade in Österreich, in Europa braucht man viel mehr Digitalbildung. Das muss auch einfach schon in das Schulsystem von ganz Anfang. Wir gehen zum Beispiel seit jetzt zwei Jahren tatsächlich in Volksschulen. Wir fahren mit einem Bus durch ganz Österreich, vor allem wirklich in das absolut ländlichste Gebiet, in die abgelegensten Dörfer von Vorarlberg etc., um wirklich schon in der Volksschule mit KI-Bildung anzufangen. anzufangen. Wir haben die Regulierung, wir haben rechtliche Rahmenbedingungen in Europa, mal als Basis, die müssen auch noch weiterentwickelt werden. Aus meiner Sicht brauchen wir viel mehr Bildungsinitiativen auch noch und ein drittes Element, um diesen Balanceakt zu schaffen, wird sicher einfach auch die Selbstverantwortung sein. Also darin, wie wir selbst diese Tools nutzen und auch einen verantwortungsvollen und bewussten Umgang damit schaffen. Von dir noch? Ja, ich würde ganz einfach sagen, wir wissen alle, ich glaube, es gibt die schwache und die starke KI. Und da gibt es jetzt ganz, könnte man wahrscheinlich wochenlang diskutieren, was wird diese starke KI je kommen? Da gibt es viele Experten und Expertinnen, die sagen, das ist alles Science Fiction, das wird niemals sein. Starke KI ist eine, die einfach dann wirklich wie ein Mensch interagiert, kontextualisiert und Dinge jetzt nicht nur Schach spielen in einer Dimension sehr tief kann. Und das ist halt etwas, das wissen wir alle nicht, das ist Kaffeesudlesen. Es gibt auch viele Experten und Expertinnen, die sagen, oh ja, das wird in ein paar Jahren oder Jahrzehnten da sein. Das wird jetzt das Spannende sein, wie sich das entwickeln wird und was wir Menschen dann daraus machen. Ich glaube, das ist das aller zentralste im Sinne von Dual Use. Nutzen wir dann diese Fähigkeiten zum Wohle der Menschheit oder machen wir alles kaputt? Je nachdem, wer es in die Hände kriegt. Wir werden alle miteinander nicht zum letzten Mal über dieses Thema nachdenken und sprechen, davon bin ich überzeugt. Es wird auch, denke ich, noch sehr wirklich, wirklich sehr, sehr viel gute Literatur zu diesem Thema. Darum die Einladung, sich da auch anzunähern. Ja, und danke an euch beide aufs Einlassen, aufs intensive Lesen und Teilen eurer Erkenntnisse mit uns. Vielen Dank dafür. Ja, und weiterhin viel, viel spannende Lektüre und Forschen und Lehre, das in die Welt zu tragen. Danke dir. Dankeschön.