Staff or Lead AI Safety Engineer
Teknik, data och digitalt · Data, AI och analys · Artificiell intelligens · Maskininlärning · Mjukvaruutveckling
I korthet
Ansvarsområden
- Definiera best practices för att bygga säkra och trygga agentiska AI-system, inklusive rigorös utvärdering, hot- och riskmodellering, kontroll-design och robusta systemarkitekturer.
- Arbeta nära Halfspace-ledningen och kommersiella chefer för att forma vårt säkerhetserbjudande.
- Arbeta med seniora klientledare för att definiera uppdrag.
- Ha en ledande roll i säkerhetsfokuserade klientuppdrag, säkerställa kvalitet och stringens i våra lösningsdesigner eller utvärderingar.
- Mentora juniora kollegor.
- Arbeta med både Downstream Safety (säkerställa att system byggda kring grundmodeller är säkra) och Upstream Safety (utvärdera modeller som klienter själva tränar eller finjusterar).
- Arbeta med ingenjörer och säkerhetsexperter från Faculty och Accenture.
Krav
- Erfarenhet av att designa och implementera utvärderingssviter och red-teaming-kampanjer för agentiska AI-system, med ett rigoröst, kvantitativt angreppssätt för att bedöma och kommunicera resultat.
- Erfarenhet av LLMOps, inklusive design och implementering av online-övervakning, guardrails och kontroller för agentiska AI-system.
- Kunskap om hur man bygger säkra agentiska AI-system i molnet (Azure, AWS eller GCP).
- Grundläggande kunskaper i klassisk säkerhetsteknik.
- Förståelse för risk- och hotmodellering för AI-systemspecifika hotklasser (t.ex. prompt injection, tool misuse).
- Möjlighet att översätta hotklasser till tekniska lösningsdesigner, kvantitativa utvärderingar och mätvärden.
- Flytande i Python, inklusive agentiska AI-ramverk (t.ex. Pydantic AI, LangGraph) och utvärderingsramverk (t.ex. Inspect AI).
- Förmåga att omvandla tvetydiga affärskrav till en väldefinierad lösningsomfattning.
- Förmåga att artikulera och väga avvägningar, såsom ambition kontra tid-till-värde.
- Förmåga att förklara tekniska val, risker och avvägningar för både teknisk och icke-teknisk publik.
- Ta ägarskap, bry sig om kvalitet och vara stolt över att lösa svåra problem.
Önskade kvalifikationer
- En MSc eller PhD inom ett STEM-fält som datavetenskap, maskininlärning, matematik, statistik, fysik eller ingenjörsvetenskap, eller motsvarande praktisk erfarenhet.
- Erfarenhet från säkerhetsforskning, från att driva kritiska AI-system i produktion, eller båda.
- Konsultativ erfarenhet och bekväm med att visa resultat snabbt i situationer där du måste driva tvetydiga krav till konkreta, levererbara och värdefulla tekniska lösningar.
- Kunskap om relevanta regelverk och revisionsramar (t.ex. EU AI Act, ISO 42001, AIUC-1).
- Erfarenhet av teknisk tolkningsbarhet och anpassning av grundmodeller.
- En PhD eller publicerad forskning inom AI-säkerhet, maskininlärning, säkerhet eller ett nära relaterat område.
Förmåner
- Vi tror att den minsta fördelen kan göra den största skillnaden.
- Vår vision är att låsa upp värde genom artificiell intelligens och hjälpa organisationer att fatta bättre, mer informerade beslut, snabbare.
- Vi har levererat mer än hundra AI- och dataprojekt, som har transformerat branscher och fått internationellt erkännande.
- Vårt team kommer från ledande institutioner som KU, DTU, Stanford, Oxford, Harvard, Caltech, Yale, Columbia, och många fler.
- Vi har en gemensam nyfikenhet, djärvhet och en banbrytande anda.
- Faculty är en ledande europeisk aktör inom AI Safety med en lång historia av att arbeta med Frontier AI Labs för att utvärdera frontlinjemodeller.
- Du kommer att arbeta tillsammans med utmärkta Halfspace-ingenjörer, varav många redan levererar spännande säkerhetsarbete, samt ingenjörer och säkerhetsexperter från Faculty och Accenture.
- Vi ser välbefinnande holistiskt och stöder våra medarbetares fysiska, mentala och ekonomiska hälsa.
- Vi erbjuder möjligheter att hålla färdigheter relevanta genom certifieringar, lärande och olika arbetsupplevelser.
- Vi är stolta över att konsekvent erkännas som en av världens bästa arbetsplatser™.
Färdigheter
Accenture is a global professional services company with leading capabilities in digital, cloud and security. Combining unmatched experience and specialized skills across more than 40 industries, we offer Strategy and Consulting, Technology and Operations services and Accenture Song—all powered by the world’s largest network of Advanced Technology and Intelligent Operations centers. Our 710,000 people deliver on the promise of technology and human ingenuity every day, serving clients in more than 120 countries. We embrace the power of change to create value and shared success for our clients,…
Företag
AccenturePublicerade jobb
för 3 dagar sedan
Anställningstyp
Heltid
Arbetsform
På plats
Erfarenhetsnivå
Senior
Platser
Copenhagen, Denmark
Kvalifikation
Sökande
Ansök tidigt
