Tekoäly on loistava saavuttamaan selkeät tavoitteet, mutta usein piilotettujen tavoitteiden kustannuksella. Terence Tao kirjoitti juuri tästä. Hän huomauttaa: Tekoäly on Goodhartin lain perimmäinen toimeenpanija, eli kun mittarista tulee kohde, se lakkaa mittaamasta sitä, mistä välitämme. Ota puhelinkeskus. Johto asettaa KPI:n: "lyhennä keskimääräistä puheluaikaa". Kuulostaa järkevältä: lyhyempien puheluiden pitäisi tarkoittaa nopeampia ratkaisuja ja tyytyväisempiä asiakkaita. Aluksi se toimii. Agenteista tulee tehokkaampia. Mutta pian ihmiset alkavat pelata sitä: tönäisevät asiakkaita katkaisemaan puhelun, kun ongelma on hankala, tai vain lopettavat puhelun itse. Luvut näyttävät hämmästyttäviltä. Puheluajat romahtavat. Mutta asiakastyytyväisyys? Suoraan maahan. Korvaa nyt "kutsuaika" sanalla "todista lause X". Jos ihmismatemaatikot tekisivät sen, he tarkentaisivat määritelmiä, hioisivat lemmoja, osallistuisivat takaisin Mathlibiin, kouluttaisivat junioreita, syventäisivät ymmärrystä matemaattisista rakenteista ja vahvistaisivat yhteisöä. Tekoäly sitä vastoin optimoi vain eksplisiittistä tavoitetta varten. Se voi tuottaa 10 000 rivin vedoksen tunneissa. Täysin oikein, mutta lukukelvoton, käyttökelvoton ja hyödytön ihmisen oppimiselle. Huipulle päästään, mutta metsä matkan varrella on poissa. Meidän on alettava tehdä implisiittisistä tavoitteistamme eksplisiittisiä ja suunnitella järjestelmiä, jotka suojelevat arvoja, joista todella välitämme, ei vain lukuja, joita voimme mitata.