Female AI Agent Was Paid 10.25 Percent Less Than a Male One, AI Virtual Office Behind Both Was Identical

The code did not change its mind. The people holding the money did.

Forskere satte 189 videnarbejdere ind i et virtuelt realitetskontor og fik dem til at afslutte arbejdet med kunstige efterretningsassistenter, der kørte på det samme underliggende system. Da opgaverne sluttede, delte hver arbejdstager rigtige penge mellem sig og assistenten. Kvindelige-præsenterer agent Johanna, blev betalt 10,25 procent mindre end malepræsenterer agent Johan. Johan blev også bedømt som mere menneskelig. I interviews med 34 af disse arbejdstagere sagde mange, at de foretrak assistenter, der tydeligvis ikke var menneskelige, og at køn ikke betød noget. Cash er et tilfælde af AI køn bias, der aldrig skulle leve i modellen.

That gap, between an interview answer and a payout, is the part that will not sit quietly inside a preference survey. The paper is titled Mennesker og ånd? [...] [...] [...] [...].. The Association for Computing Machinery offentliggjorde det i forbindelse med den 14. nordiske konference om menneskelig-computer interaktion under DOI 10.1145 / 3829807.3829910. Forfatterne præsenterer det i Vaasa, Finland, fra 5 til 7 oktober 2026.

Isabelle Cuber, Terek Alakmeh, Moritz Jenny, Jochen Menges, og Thomas Fritz er på universitetet i Zürich. Mary Hausfeld, an assistant professor at the Kemmy Business School, is at the University of Limerick. Anand van Zelderen is at SKEMA Business School. The Universitetet i Limerick, posted through EurekAlert, is the clearest public statement of the 10.25 percent figure.

A virtual office where the paycheck was real

Det skulle føles som en arbejdsplads. Deltagerne arbejdede med en tekstbaseret chatbot, en skrivebordsrobot og menneskelignende agenter. Papirets abstrakt beskriver funktionelt identiske assistenter, der varierede i human- lighed og i kønspræsentation. Johan og Johanna var det menneskelignende par. De har ikke forskelige færdigheder. De har forskelige ansigter.

Audit undersøgelser af ansættelse har brugt årtier sende matchede genoptagelser, der adskiller sig ved et navn. Denne ene sendte matchede systemer, der afveg af et organ, så havde folk opdele faktiske penge snarere end score en hypotetisk kollega.

Dr. Hausfelds linje i udgivelsen er den, der er værd at citere hele. "Hvad er slående om vores resultater er, at teknologien bag disse AI-agenter var præcis den samme, men folk ikke behandle dem på samme måde".

De 10,25 procent er ikke en virksomheds løn. Cash var en kontrolleret belønning efter en session af fælles arbejde. Det er også derfor, det er svært at vinke af. Arbejdsmarkedets parter ikke på markedet. De beslotte, hvor meget af en fælles pot assisten har de tent.

AI gender bias showed up in the payment, not in the code

The gender split did not travel alone. It traveled with a judgment about who counted as human.

Mennesker-ligesom assistenter modtaget højere tillid, mere kredit for det fælles arbejde, og højere belønninger end robotten, selv om den samme underliggende AI drevet systemerne. Den abstrakte siger, at den kvindelige-præsentere assistent blev opfattet som mindre menneskelig-ligesom den male- præsentere en, og belønnet mindre. Arbejderne gav ikke kun et kvindekodet ansigt et mindre snit. De læste, at ansigt som mindre af en person, derefter betale på læsning.

Euronews Formandsom arbejder fra samme papir, rapporterede, at den mindre betaling til Johanna dukkede op blandt både mænd og kvinder, og at især kvinder scorede og belønnede Menneskelig- prasentere agenter blot højt end maand gjorde. Det abstrakte forbliver med det bredere mønster. Mere menneskelige-ligesom assistenter blev betalt mere. Johanna blev set som mindre menneskelig end Johan og betalte mindre.

Product teams vil ønske at behandle "gøre det til et menneske" som en brugbarhed lag maling. I dette kontor var menneskelighed allerede en lønklasse, og kønspræsentationen sorterede disse agenter igen.

Hausfeld rettede advarslen mod dette valg. "Vi tænker ofte på AI som værende neutral, men den måde, vi designe og præsentere disse systemer kan aktivere de samme antagelser og biaser, der findes i vores interaktioner med andre mennesker ". Hun sagde, at de egenskaber, der gives til arbejdspladsen agenter kan fremme adfærd, og at risikoen er reproducere eksisterende uligheder i en ny indstilling. Udseende, tilføjede hun, er ikke en styling ekstra. "Sådanne valg kan påvirke hvor meget folk har tillid til AI, hvordan de bedømmer dens bidrag, og selv hvordan de økonomisk belønne det".

The interview and the money told two different stories

The payout would have been enough for a gender finding. The interviews turn it into a finding about self-knowledge.

Mange deltagere sagde, at de ønskede assistenter, der var klart ikke-menneskelige. De fleste sagde, at en assistents køn ikke betød noget. Universitetets udgivelse siger deres evalueringer og belønning beslutninger fortalte en anden historie. Smag og betaling i modsat retning.

Den "medarbejder" i rummet kunne ikke forhandle, charme, eller ankomme med et ry. Det eneste håndtag var præsentation. Folk skabte stadig mønstret, og en stor del af den interviewede gruppe beskrev sig selv som uberørt af det.

Departments that let software draft incident narratives, as with AI-written police reports, allerede satse, at en maskine udkast ankommer neutral. Her er undskyldningen om, at de to arbejdere producerede anderledes produktion væk. Tillid bevægede sig. Kredit flyttet. Kontanter flyttet. Det gjorde interviewet ofte ikke.

Female by default was already a workplace habit

For years the assistants people actually spoke to were women unless a setting was changed. A 2019 UNESCO publication, I’d Blush If I Could, hævdede, at default- kvindelige stemme assistenter sprede køn bias og gjorde kvinder ansigt til fejl. Titlen kom fra et svar Siri engang gav til en slur. UNESCO opfordrede virksomheder til at holde op med at gøre assistenter kvindelige som standard. Siri, Alexa, Cortana og Google Assistant var eksemplerne.

En CHI undersøgelse præsenteret som Kvinde ved standard? senere fandt, at pitch og opfattet køn ændrede træk folk tildelt en stemme, selv når tillid scores ikke splittet rent. Køn gjorde allerede socialt arbejde, før nogen satte en krop og en pung på.

Vaasa- experimentet flytter indsættelsen fra vare til søn. En september video fra Peter Worn argumenterede, at grundlæggerne holde give AI agenter kvindelige navne og kaldte mønster en slags genderifikation. Papiret behøver ikke hans andel. Den prissætter mekanismen. Et navn og et ansigt stoppe med at være dekoration når pengene er fastgjort.

Menneskelige-lignende agenter her var betroet mere end robotten og chatbot, så produkt hold vil holde nå en person. Ulempen er, at personen ikke er tom. Johan trak en højere belønning end Johanna, og kun et af disse resultater vil gøre forlovelsen glide.

Vaasa opened on a question this cash already answered

NordiCHI 2026 mødes personligt den 5.-7. oktober i Tervahovi-bygningen på universitetet i Vaasa. Mandagens nøgleord, fra Yvonne Rogers of university colleges london, er titlen på at flytte fra humancentreret ai til mennesker-centreret ai. i konferenceprogram det spørgsmål ved siden af et papir, der allerede prissat valget. Gør assistenten mere menneskelig, og arbejderne stoler mere på det, kreditere det mere, og betale det mere. Gør denne menneskelige han, og betalingen stiger igen ved siden af en identisk kvindelige præsentation.

Hausfeld undersøger afstanden mellem, hvad folk gør på arbejdspladsen, og hvordan de evalueres. Det virtuelle kontor fjerner forskellen i arbejdet og lader vurderingen stå. Hvis en støtteagent får et køn, kan folk ved siden af stole på det anderledes og, når pengene er i loop, belønne det anderledes. Brugerne betaler allerede for chatbot style. Style, in this result, includes gender.

The same choice arrives when models are scarce enough that one company rations access to another. The assistants that ship will not be empty boxes. They will have names, voices, and sometimes bodies, picked on a deadline, meeting both the 2019 UNESCO pattern and this payout.

What the 10.25 percent does not prove

The study does not say AI has a gender, or that Johanna lived a wage. It says people imported a workplace bias into a transaction with a system that could not differ from its pair except in how it was shown. One hundred eighty-nine knowledge workers are not a labor market. The finding is narrower, and stronger for that. Johanna was paid 10.25 percent less than Johan for the same work.

Participants could say gender was irrelevant. Their rewards sorted the agents anyway. If an agent does not need a gender to do the job, giving it one is a measured cost, not a costume. A debrief that says “we do not see gender” is the wrong instrument. The payout was the instrument.

In Vaasa, headset users got a wallet and two identical minds. They paid the mind that looked like Johan. They paid the mind that looked like Johanna less.

Further reporting on how firms build and sell these systems is in the site’s business coverage, its hacker news file, and its internationale nyheder.