Linda Cronman will talk about disputing biases, artistic tactics to hack AI-powered vision. Linda Cronman is a media artist and PhD researcher in machine vision in everyday life at the University of Bergen, drawing on feminist and post-human theories. Since 2010, Linda is collaborating with Andreas Zingerle as artist duo Kairos, where they're exploring the use and abuse of tech in their art. So most of you probably know me as the part of the Kairos collective but today I'm actually gonna talk about my other life or whatever, like my research life. So I've been working on a PhD that I successfully defended three weeks ago, so I'm very fresh. But I've been working with a really amazing team on a project that is also about everyday life, because it's about machine vision in everyday life. Olen työskennellyt todella mahtavaa ryhmää, joka on myös päivittäisestä elämästä, koska se on maatilanteesta päivittäisessä elämässä Norjassa. Tämä on ollut ERC-ohjelmassa tehty projekti. And we have been looking at digital art, games, narratives and social media, and how these machine vision technologies are represented. So this is a very, like, coming from, like, it's a PhD in digital culture, and it comes very much at looking at these technologies from the perspective of culture. And my part has been to look at digital art. So there's a little bit of art making also in my PhD, but mostly it is about actually looking at other people's art and thinking with other people's art. We have also had the opportunity to reach out to different communities. There has been like a live action role plays made. One was a larp called Civilization in Sventtumin kanssa, joka oli isompi. Sitten oli myös pienempiä osia. Andrias ja minulla oli myös osa kokoomuskirjoittamista yliopiston esityksessä. mutta suurin kokemus, jota meillä on ollut tutkimusryhmässä, on maatietojen ja narratiivien maatietojen datapiste. Siinä katsotaan vähän enemmän tänään. Minun osana tutkimusta liittyen näihin kaksi projektia. Yksi on Maschinvision-databasi, ja toinen on Suspicious Behaviour, joka on tehtäväni arkkosuunnitelma Andreasin kanssa. Ja... Minun lähestymistietoni näihin kaksi projektiin My approach to these two projects have been asking this question, what's the relationship between machine vision and bias, and how it is conceptualized in digital art. My dissertation, there's maybe a couple of copies back there. It's an article-based one. Today I'm mainly going to talk about the last article, because I haven't had the chance to present it anywhere. So I thought that it would fit well here. But I'm also like, because I use data, I critique the use of data, Mutta kun käytän tietoa, niin kritiikin sen käyttöä. Kritiikin, miten maatietojen tietokoneet on luotu. Ja teen tätä taiteen kautta. Mutta olen myös luonut tietokoneen. Ei ole maatietokoneen kautta, mutta minun on ollut kys a lot of questions about how do we create data. And that's why also I chose to the title Performing Bias as the title of my dissertation because it has been really this journey of like thinking through like feminist data methodologies of how do I as a person who creates a data set also like have power what kind of decisions am I making as a data curator. So this is the article that I'm and that's why I'm also talking a little bit more about methodology or how we did this database because I'm using the data in my articles and I'm using it in this talking about hacking surveillance. So it's very important for me also to take you on the detour a little bit and explain to you quite in detail how we created this data. So in this article, my research questions that I'm putting up to the dataset that we were creating is that what kind of artistic approaches to hacking machine vision exist. And then I'm taking it a little bit further by analyzing different artworks and asking what kind of... Are there hacks that can challenge AI-powered vision? So I'm using both. I'm using digital humanities methods of distant reading and close reading. It means that I'm visualising this data from the database. And then I'm also doing the close reading of certain artworks. visualisoida tätä dataa, ja sitten minä myös luulen tiettyjä taiteilijoita. Database on 500 kreatiivistä tekemistä. Olimme yhteistyössä with the team. We have 233 narratives there. We have 77 games. My colleague was playing more than 77 games, and that was her PhD. ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, ja olin myös toiminnan järjestäjänä, database use or reference machine vision in some ways. And we have published the data set. We also hope that other researchers are using it. But also it is like kind of we are very aware of that it's a very situated data set. So we come very much from the digital humanities, like critical digital humanities background, that thinks that data is never raw, it's always cooked in some way. This means that we are making decisions when we are creating these datasets. From data feminism we learned to ask important questions, what counts as data, what is included and excluded from a data set, how is it classified, how is it aggregated, and who has the power to decide. And definitely we were the data curators, so we had very much control of this process. So how was our data then cooked? of this process. So how was our data then cooked? We are in an article, this is the first article in my dissertation, which is co-written with the rest of the team. We are putting out this article format that says that you can't jossa ei ole mitään tietoja, vaan se on laitettu. Mutta tietenkin teimme paljon interpretointia, koska tämä tietoset on interpretointia tekemisistä, kreatiivisista tekemisistä, joita interpretations of artworks, of creative works that we put there. So it's kind of hard to do it in the format that the journal wanted. But we definitely wanted to put out an example of that you also kind of can do this with datasets from digital humanities. So in this article, we are also talking a lot about bias and how our data set is biased. We have a time bias. Most of the artworks are between 2011 and 2021. Tämä on esimerkiksi kun puhutaan taiteilijoista. Tämä on hyvin erityinen asia, jonka aikaa puhutaan. Meillä on myös käsityksiä geografisen laajennuksen kanssa. Kun me olimme ja kun olemme kokoamassa taiteita, olemme olleet hyvin tietoisia siitä, että meillä on hyvin suomalainen eurooppalainen bias. Se on vielä bias, mutta minulle se oli erittäin tärkeää, then it still is biased but I like for me it was very important especially specifically with the artworks to to try to balance that bias so balancing the weights and I was then also like employing research assistants to get a wider perspective into what I could find. ja se oli se, mitä aloin miettiä, että millaista näkökulmasta tutkimukseni vaikuttaa ja mitä dataa on saatu tähän, mitä on arvioitu. Tällä tavalla myös kriittisistä arivuustolle voi saada paljon inspiraatiota, miten ajatella näitä prosesseja. Ja se on myös se, että aion huomioida, että se ei ole täydellistä. että se on ihan periaatteessa. Meillä on taiteilijoilla, koska minä yritin saada ainakin kahden kärsivän enemmän järjestelmää. Olin myös sanonut, että en oteta enemmän kuin kolme taiteilijoista jokaiselle taiteilijalle, jotta voin saada enemmän taiteilijoita I will not take more than three artworks from each artist so that I can get more artists into the database and these kind of things. So then it comes, if you go looking at then like how things are thought about data and the data sciences, of course I was fiddling with the bias. So I was being super biased. I was being super biased. Also in the peer review, my data was questioned, because I was actually being biased. There was no way of getting out of being biased. I had to accept that I'm going to be biased, but how do I talk about this bias? And that's actually what then the 200 pages of the synopsis for the article became about, was about performing bias. But of course we had also like to think about how we classify our data, how do we define machine vision technologies. This was something that came through the creative works, through the artworks. We had a collection of or collected 26 different types of technologies. And these are not technically specific. or collected 26 different types of technologies. And these are not like technically specific. This is really what came from iterations of looking at artworks, looking at movies. And there we also have like, for example, very everyday machine learning things that are, for example example used in artworks, but then we also had like movies and where we already have like sentient AI, so how do we talk about all these technologies that exist and don't exist in kind of the same database. So this is also like kind of ja eivät ole samaan datan kohdalla. Tässä oli myös pitkä keskustelu, miten me definioimme maatilannetta. Sitten meillä oli se ongelma, että kun se tulee maatilanteesta, niin on j do, and that things have also agency, and how they more interact in different situations. So besides having the creative work and logging different things like the topic, which one of the topics is for example hacking, I will get back to that a little bit later. We also created something called machine vision situations, and these machine vision situations. And these machine vision situations are really about thinking through verbs, what is happening in a specific situation in that artwork. And there we also have hacking. So now I'm starting to get to the hacking part, when I already explained a long time how we collected the data. But it's because I'm also using visualizations, ja olen jo selittänyt, miten me saimme dataa. Olen myös käyttänyt visualisaatioita, joten minun täytyy selittää tätä hieman, ennen kuin pääsen tekemään tätä. Sitten aloitin kysyä 190 taiteilijaa, 90 taiteilua, joista aloin kysyä kysymyksiä, kuten miten maatilannin on hakeutettu. 36 taiteilua on vain hakeutettu hakeutuksella. Tämä ei ole suuri data, joten tämä on hyvin digitaalinen ihmisyys. Se tarkoittaa vain suurempia taiteiden korpusseja. Tässä oli myös keskusteluja kollegiani kanssa. Täällä tiedän, että paljon teillä on myös Because, I mean, here I know that a lot of you, and you probably have also this broader cultural understanding of what hacking is. But also I had to often explain that hacking is something else than just breaking into a computer or something very technical. kuin vain kompiltoinnin ristiriitaaminen tai jotain erittäin teknistä. Joten tulen siihen myös hieman myöhemmin. Mutta jotain, jota voisin nähdä, kun aloin käyttää visualisoimia, see in the different when I started to use like visualizations and I looked at these 36 artworks was that there was there's definitely like with this broader sense of what hacking is there's definitely kind of like a shift happening with what I call AI-powered perception. So when we start having these technologies that are also like interpreting the footage, so they are not anymore just sensorial devices like surveillance cameras. sensoriaalisten koneiden kautta, kuten huolimatta kamerat. Vuonna 2010 alussa kaikki teemat ovat hakemuksia huolimatta kamerat, ja ne ovat melko materiaalisia hakemuksia. Sitten vuonna 2010 teemat ovat enemmän aiheita hakemaan. are more about actually tricking AI. And this was something that I found interesting, so I started to look at this more closely. And... And then I went to look at these machine vision situations. So each... Each creative work has at least one situation identified, and that situation is described with verbs. So we have, for example, here in Michel Terrain's artwork that the creator is hacking, the surveillance cameras are being hacked. And in this way, I could start going and looking at different verbs in a broader number of works than these 36 works that were defined as hacking. And so I needed to create kind of this list of verbs that I want to look more at. to create kind of this list of verbs that I want to look more at. So we have tricking and tricked, hacking hacked, obfuscating, altering, appropriating and so on. So where did I like kind of get this list of verbs from then. So this is the machine vision situations we also have. Just a couple of weeks ago we published a paper about the methodology. So when it comes to hacking, this is the word, if you had the word of how to define Kun se liittyy hakemuksesta, tämä on se, mitä... Jos olet sanonut, miten määrittää käyttäjä, minun täytyy määrittää, mitä hakemuksessa on. There is a lot of different hacking cultures that you can go into looking, that specify it a little bit differently. I try to give in the article a quite broad sense of how hacking has been defined. sen mukaan, miten hakeutus on suunniteltu. Ja manipuloitua ja muodostaa teknologioita, ja myös hakeutusta, joka voi edistää arvokkaita tai jopa sosiaalisia. Näytin paljon näistä verboista, joita olin sitten katsomassa, kuten hacktivismia, myös abstraktiivista hacktivismia, joka on enemmän kuten hakemaa transformaatiivisen toimintan mukaan. Tämä on jo hyvin suuri, että se voi olla mitenkään systeemi, jota olet esittämään. Mutta myös taktiikallisia mediaeja ja kritiikallinen tekemisellä, jossa löydän itse asiallisen taiteilijan suurin osa. of my own artistic practice most, where things like reverse engineering and hijacking things, hijacking the digital and critical thinking and making comes together. So this is very much the place where I draw the definition of hacking and how I understand these hacking verbs. So then the other place where I'm also looking a lot of inspiration from and also understanding of what hacking can be as a way of doing ja ymmärtää, mitä hakelu voi olla. Se on myös se, mitä tehdään. Se on feministihackerspaisia. Ja tietenkin tässä on myös... Ne eivät ole yksilöitä. Tässä on monimutkaisuus arvoja ja taktikoita. a multiplicity of values and tactics in these spaces. But here you also get this thinking of misuse as a way of hacking. And then also from a critical making perspective we also have to see that the whole hacking culture is very European, And there, where also it's not maybe so much about certain expression of values, but comes also a lot from necessity. And there we have like augmenting, repairing and subverting designs as important perspectives to be included in what we think as hacking to be. So in this way I kind of argue that hacking machine vision involves like very hybrid approaches and it's about like also it's both like kind of hacking and making that converts in these practices. So then with this list of verbs, I use the open source tool for network visualizations called Gephi. And here also I want to emphasize that visualizing for me is a method. So I take much inspiration from Johanna Druckers' way of seeing that, that visualization is a production of knowledge already, että visualisaatio on jo ympäristönä tietoa. Se on jo se, että visualisaatio on tätä tietoa. Silti on paljon kukkua, joka tuottaa tietoa visualisaatiolle. On paljon variaatioita, joita voi tehdä. Tiedot voivat kertoa erilaisia asioita. Täytyy myös olla selvää, että tämä on tavalla ei-käsittää tiettyjä dataa, mutta se on todella prosessi. This is really a process. In the articles it's always like these images that are stills, but in Gephi I work with the data as an interactive tool, so that's also a very different situation when you go and look at the data through these visualization tools and then when it's printed in an article. So they look very... the visualizations look very messy. But what I try to do here is that I look at this. I take the dataset into Gephi. I already cook it a little bit so that I get nodes and edges. Then what I look here is what kind of verbs are close to the specific verbs that I'm looking at? Here I have the couple hacking and hacked. It's creators, so these are the artists who are often hacking. What's most often connected to the hacked world is surveillance cameras. And this is then when you start looking at the artworks that are there, there's a lot of artworks that are really kind of hijacking the signal or are hacks on the materialities of CCT cameras. And this is kind of one type of hacking surveillance cameras that is coming. There are a lot of artworks doing this and playing with this. And this is then a lot about exposing, revealing the infrastructure and so forth. And of course we have like... Okay, we have a long history of doing this. Surveillance camera players are one of the precursors. The other... The other kind of category that I'm talking about is about tricking AI. And here we have then technologies like facial recognition, emotion, or object recognition. Here it's often about hiding from the... Hiding, obfuscating, camouflaging are the verbs that are connected to this kind of tricking AI. And then we have a lot of works that are giving you different tactics how to hide from the technologies. But then actually when you start looking at the like kind of a little bit not in these clusters but a little bit outside these verbs and where you get like subverting or you're a little bit not quite in the ja näyttää näitä verboja, joissa on vähän vähäistä, näytetään enemmän rintaleja, ja sitten saa taiteilijoita, joita aloin kutsua vahvistusvaiheisiin. Tässä kuvassa näyt from Marielle Kaufmann's hacking surveillance paper. She is looking at, instead of looking at like kind of different practices or different hacking cultures, she theorizes hacking to the notion of dispute. And here, the actors have this... They have some kind of agency to challenge this totality of surveillance. And she interviews hackers and comes to a definition of hacking as a form of disputing, which is like kind of this playful black and forth. It's a small but continuous resistance. It's a continuum of interactions where you are not actually there to settle injustice, Se on jatkuvaa interaktiota, jossa ei ole oikeastaan tarvitse jättää väärää, mutta se on enemmänkin muuta kuin uudistamista normeista ja harjoituksista. Tällaiset kokemuksen viestintäviestintäni katsottiin kaupungin näkökulmasta. Katsottiin taiteilijoita ja miten he eivät halua käsiteettu näiden teknologioiden jälkeen, vaan ne ovat neuvotteluja ja neuvotteluja näiden teknologioiden kautta. Ja......tänään tarkastelen, miten ne voivat......miten he voivat vastata viimeisistä, koska minun käsitykseni on paljon viimeisistä, how they dispute biases because my dissertation is a lot about biases in terms of how they dispute or challenge oppressive algorithms, how they look at, expose how systems of power propagate inequality, ja miten he näyttävät, miten järjestelmät näyttävät kvaliteettia, ja miten he näyttävät hallitsevista ja esimiehityksistä. Tämä on toinen iso asia minun käsitykseni, miten määrittää viestintää, joita en ole aikaa mennä nyt. Nyt en ole aikaa, mutta artikkelissa puhun enemmän jollekin, joiden kanssa on kuitenkin erilaisia käsitteitä, as two very different approaches to disputing biases. Bulanvinis approach comes from this, her background as a computer scientist, and I see it more as a cautious approach that avoids really much to reproduce power imbalances, whereas Paulo Sirius approach comes more from the tactical media background, and it's really more about actually evoking existing power imbalances, and it's kind of a more risky, provocative approach, but can potentially also be successful. So if we get still to my initial question, are there art hacks that challenge AI-powered vision? Iso kysymys. Onko tehtävissä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä tehtäviä teht that builds on ongoing interactions. And art hacks, so hacking surveillance cameras, tricking AI and disputing biases all take part in this ongoing negotiation on how machine visions are designed and deployed in our everyday lives. So I'm gonna say thank you, and you go and read the article, because that's something that is very nice with Norwegian research, that it has to be open access. So they are all articles and the dissertations are open access, and you can go and read it. Thank you.