Theme

Language

Global EN
Sweden ENSV
India EN

Staff or Lead AI Safety Engineer

Technology, Data & Digital · Data, AI & Analytics · Artificial Intelligence · Machine Learning · Software Engineering

In short

Halfspace söker en Staff eller Lead AI Safety Engineer till sitt team i Köpenhamn. Du kommer att definiera best practice för säkra agentiska AI-system, arbeta med klienter och leda säkerhetsengagemang. Rollen kräver erfarenhet av AI-säkerhetsarbete, riskmodellering och programmering i Python.

Responsibilities

  • Definiera best practices för att bygga säkra och trygga agentiska AI-system, inklusive rigorös utvärdering, hot- och riskmodellering, kontroll-design och robusta systemarkitekturer.
  • Arbeta nära Halfspace-ledningen och kommersiella chefer för att forma vårt säkerhetserbjudande.
  • Arbeta med seniora klientledare för att definiera uppdrag.
  • Ha en ledande roll i säkerhetsfokuserade klientuppdrag, säkerställa kvalitet och stringens i våra lösningsdesigner eller utvärderingar.
  • Mentora juniora kollegor.
  • Arbeta med både Downstream Safety (säkerställa att system byggda kring grundmodeller är säkra) och Upstream Safety (utvärdera modeller som klienter själva tränar eller finjusterar).
  • Arbeta med ingenjörer och säkerhetsexperter från Faculty och Accenture.

Requirements

  • Erfarenhet av att designa och implementera utvärderingssviter och red-teaming-kampanjer för agentiska AI-system, med ett rigoröst, kvantitativt angreppssätt för att bedöma och kommunicera resultat.
  • Erfarenhet av LLMOps, inklusive design och implementering av online-övervakning, guardrails och kontroller för agentiska AI-system.
  • Kunskap om hur man bygger säkra agentiska AI-system i molnet (Azure, AWS eller GCP).
  • Grundläggande kunskaper i klassisk säkerhetsteknik.
  • Förståelse för risk- och hotmodellering för AI-systemspecifika hotklasser (t.ex. prompt injection, tool misuse).
  • Möjlighet att översätta hotklasser till tekniska lösningsdesigner, kvantitativa utvärderingar och mätvärden.
  • Flytande i Python, inklusive agentiska AI-ramverk (t.ex. Pydantic AI, LangGraph) och utvärderingsramverk (t.ex. Inspect AI).
  • Förmåga att omvandla tvetydiga affärskrav till en väldefinierad lösningsomfattning.
  • Förmåga att artikulera och väga avvägningar, såsom ambition kontra tid-till-värde.
  • Förmåga att förklara tekniska val, risker och avvägningar för både teknisk och icke-teknisk publik.
  • Ta ägarskap, bry sig om kvalitet och vara stolt över att lösa svåra problem.

Desired Qualifications

  • En MSc eller PhD inom ett STEM-fält som datavetenskap, maskininlärning, matematik, statistik, fysik eller ingenjörsvetenskap, eller motsvarande praktisk erfarenhet.
  • Erfarenhet från säkerhetsforskning, från att driva kritiska AI-system i produktion, eller båda.
  • Konsultativ erfarenhet och bekväm med att visa resultat snabbt i situationer där du måste driva tvetydiga krav till konkreta, levererbara och värdefulla tekniska lösningar.
  • Kunskap om relevanta regelverk och revisionsramar (t.ex. EU AI Act, ISO 42001, AIUC-1).
  • Erfarenhet av teknisk tolkningsbarhet och anpassning av grundmodeller.
  • En PhD eller publicerad forskning inom AI-säkerhet, maskininlärning, säkerhet eller ett nära relaterat område.

Benefits

  • Vi tror att den minsta fördelen kan göra den största skillnaden.
  • Vår vision är att låsa upp värde genom artificiell intelligens och hjälpa organisationer att fatta bättre, mer informerade beslut, snabbare.
  • Vi har levererat mer än hundra AI- och dataprojekt, som har transformerat branscher och fått internationellt erkännande.
  • Vårt team kommer från ledande institutioner som KU, DTU, Stanford, Oxford, Harvard, Caltech, Yale, Columbia, och många fler.
  • Vi har en gemensam nyfikenhet, djärvhet och en banbrytande anda.
  • Faculty är en ledande europeisk aktör inom AI Safety med en lång historia av att arbeta med Frontier AI Labs för att utvärdera frontlinjemodeller.
  • Du kommer att arbeta tillsammans med utmärkta Halfspace-ingenjörer, varav många redan levererar spännande säkerhetsarbete, samt ingenjörer och säkerhetsexperter från Faculty och Accenture.
  • Vi ser välbefinnande holistiskt och stöder våra medarbetares fysiska, mentala och ekonomiska hälsa.
  • Vi erbjuder möjligheter att hålla färdigheter relevanta genom certifieringar, lärande och olika arbetsupplevelser.
  • Vi är stolta över att konsekvent erkännas som en av världens bästa arbetsplatser™.

Skills

PythonPydantic AILangGraphInspect AILLMOpsAzureAWSGCP
#AI#Advanced Analytics#AI Safety#Agentic AI#Evaluation#Threat Modelling#Risk Modelling#Control Design#System Architectures#Foundation Models#LLMOps#Python#Cloud Security#Consulting
Accenture Logo

About Accenture

Delivering on the promise of technology and human ingenuity

Accenture is a global professional services company with leading capabilities in digital, cloud and security. Combining unmatched experience and specialized skills across more than 40 industries, we offer Strategy and Consulting, Technology and Operations services and Accenture Song—all powered by the world’s largest network of Advanced Technology and Intelligent Operations centers. Our 710,000 people deliver on the promise of technology and human ingenuity every day, serving clients in more than 120 countries. We embrace the power of change to create value and shared success for our clients,…

Company

Accenture

Job Posted

3 days ago

Employment Type

Full Time

Work mode

On Site

Experience Level

Senior

Locations

Copenhagen, Denmark

Qualification

Master, Doctoral

Applicants

Be an early applicant