En un coup d'œil
- Missions: Diriger la recherche sur la modélisation des risques en IA, cybersécurité et plus.
- Entreprise: SaferAI, une organisation innovante dédiée à la sécurité de l'IA.
- Avantages: Assurance santé, plans de retraite, remboursement des frais de transport.
- Autres infos: Travail dans un environnement dynamique avec des opportunités de croissance.
- Pourquoi ce job: Impactez la sécurité de l'IA avec des recherches fondamentales et novatrices.
- Qualifications: Expérience en modélisation des risques en IA et capacité à diriger des projets.
Le salaire estimé est compris entre 61650 - 75350 € par an.
SaferAI recrute un chercheur senior pour diriger notre travail de modélisation des risques dans les domaines de la cybersécurité, des risques CBRN et des pertes de contrôle liés à l'IA de pointe. Ce rôle de leadership épistémique vous permettra de définir la direction intellectuelle d'un domaine technique en évolution et de le faire progresser.
Pourquoi cela est impactant
La gestion des risques liés à l'IA de pointe ne peut pas se fier uniquement à des jugements ou à des références de capacités isolées. La modélisation des risques permet un raisonnement structuré et établit des liens clés : connectant les capacités brutes aux scénarios de menaces, et finalement aux dommages estimés. La valeur de ce travail ne réside pas dans la production d'un chiffre unique et précis, mais dans la rigueur méthodologique qu'il impose. Cela rend explicites les scénarios et les hypothèses afin qu'ils puissent être soumis à des tests de résistance, et traduit les risques abstraits en seuils opérationnels sur lesquels reposent les industries à haut risque.
En intégrant la modélisation des risques comme élément central de notre travail, nous faisons progresser la méthodologie fondamentale qui alimente l'écosystème de sécurité plus large, alimentant directement les cas de sécurité, les évaluations et les atténuations nécessaires pour une gouvernance efficace de l'IA.
Questions méthodologiques importantes
- Modélisation pour la compréhension : Comment pouvons-nous construire un portefeuille de méthodologies de modélisation qui nous permettent de mieux comprendre les risques et de recommander des atténuations face aux complexités des dynamiques attaquant-défenseur en cybersécurité ?
- Élicitation calibrée et évolutive : Notre travail sur les experts LLM simulés est une tentative prometteuse à cet égard, qui doit être poussée plus loin et validée par rapport au jugement humain.
- Diversification des sources de données : Nous commençons à explorer des transcriptions d'évaluation ouvertes et des résultats de red-teaming, et à considérer d'autres sources comme les rapports d'incidents.
- Extension inter-domaines : Développer un outil polyvalent pour comprendre les risques de manière structurée dans les domaines de la cybersécurité, des CBRN et des pertes de contrôle.
Pourquoi SaferAI est un bon endroit pour faire avancer ce travail
SaferAI a produit un corpus substantiel de recherches sur la modélisation des risques qui a gagné en traction dans le domaine :
- Papiers fondamentaux sur la modélisation des risques qui ont façonné l'approche des entreprises de pointe.
- Neuf modèles probabilistes d'attaques cybernétiques habilitées par l'IA, avec une estimation de l'augmentation de l'IA à travers le volume d'attaques, le taux de succès et la portée cible.
- Collaboration en modélisation des risques cybernétiques avec trois instituts de sécurité de l'IA ; travail de modélisation des risques CBRN avec la Commission européenne ; modélisation des risques de perte de contrôle, avec deux papiers lors d'un atelier ICML.
SaferAI est une organisation de 18 personnes qui a doublé de taille au cours des deux dernières années. Son travail couvre la gestion des risques liés à l'IA de pointe, la modélisation des risques, les normes techniques et les politiques. La modélisation des risques relie ces domaines. Elle traduit les preuves techniques et les scénarios de menaces en exigences pratiques qui informent les normes que nous aidons à développer, les cadres de gestion des risques que nous soutenons et le travail réglementaire sur lequel nous conseillons.
Conditions de travail
Localisation : Nos bureaux sont à Paris et Londres, et nous sommes ouverts à établir une présence à San Francisco pour la bonne personne. Le travail à distance est également possible pour un candidat solide.
Rémunération : SaferAI est une organisation à but non lucratif financée par des dons. La rémunération sera proportionnelle à l'expérience et à la localisation, conformément au secteur non lucratif.
Ce que nous offrons
- Liberté vis-à-vis des pressions commerciales.
- Propriété d'un agenda de recherche fondamental.
- Concentration totale sur un travail de sécurité impactant et façonnant le domaine.
Avantages
- Couverture d'assurance santé et plans de retraite adaptés à la localisation.
- Coûts de transport couverts à 50 %.
- Dépenses de productivité jusqu'à 2000 € par an.
- Espaces de bureau si pertinent.
Risk Modeling Lead in Paris employeur : SaferAI
SaferAI est un employeur exceptionnel qui offre un environnement de travail stimulant et collaboratif, idéal pour les chercheurs passionnés par la modélisation des risques liés à l'IA. Situé à Paris, notre équipe de 18 personnes bénéficie d'une culture de soutien qui favorise la recherche innovante sans les pressions commerciales, tout en offrant des opportunités de croissance personnelle et professionnelle. Avec des avantages tels qu'une couverture santé, des plans de retraite adaptés et des remboursements de frais de transport, SaferAI s'engage à créer un cadre de travail enrichissant et impactant.
Conseils d'expert StudySmarter🤫
Voici comment nous pensons que tu pourrais décrocher Risk Modeling Lead in Paris
✨Plonge dans les forums de cybersécurité
Rejoins des forums comme Reddit ou des communautés comme OWASP pour échanger sur les tendances en cybersécurité. Ces plateformes sont idéales pour se rendre visible et nouer des contacts avec des pros du secteur.
✨Participe aux conférences et ateliers
Assiste à des événements comme le HackInParis ou le FIC pour faire du networking. Tu y rencontreras des experts du domaine, et ça peut vraiment t'aider à décrocher des opportunités de stage ou de boulot.
✨Montre ton expertise à travers un projet
N’hésite pas à créer un projet personnel en cybersécurité, que ce soit un blog, un outil open-source ou une étude de cas. Cela peut impressionner les recruteurs et montrer que tu es proactif.
✨Postule directement sur notre site !
Si tu vois une offre spéciale chez SaferAI, ne perds pas de temps ! Postule directement sur notre site. Cela montre ton intérêt et ta motivation à rejoindre leur équipe.
Nous pensons qu'il te faut ces compétences pour exceller en tant que Risk Modeling Lead in Paris
Quelques conseils pour ta candidature 🫡
Mets en avant tes certifications:Dans le domaine de la cybersécurité, les certifications comme CISSP, CEH ou CompTIA Security+ peuvent vraiment faire la différence. Assure-toi de les mentionner dans ton CV et de décrire comment elles t’ont préparé au poste chez SaferAI.
Démontre tes compétences techniques:Ton CV doit refléter tes compétences techniques en matière de cybersécurité. Mentionne des outils spécifiques que tu maîtrises, comme Wireshark, Metasploit ou des compétences en pén-tests. Cela montre que tu es déjà dans le bain et prêt à contribuer chez SaferAI.
Soigne ta lettre de motivation:Prends le temps de personnaliser ta lettre pour SaferAI. Explique pourquoi tu es passionné par la cybersécurité et comment tu envisages de grandir avec eux dans ce domaine. N’hésite pas à mentionner des tendances actuelles qui te motivent.
Sois clair sur ta disponibilité:Pour un poste à plein temps, précise ta disponibilité. Mentionne ton délai pour commencer et ce qui te motive à rejoindre SaferAI. Cela montre ton engagement et ta transparence dès le départ.
Comment te préparer à un entretien d'embauche chez SaferAI
✨Montre tes compétences techniques
Dans le domaine de la cybersécurité, tes compétences techniques seront scrutées de près. Prépare-toi à approfondir des sujets comme le chiffrement, le pare-feu et l'analyse de menaces. Prépare quelques exemples concrets où tu as utilisé ces compétences pour résoudre des problèmes.
✨Prépare-toi aux scénarios de cas
Les entretiens en cybersécurité incluent souvent des études de cas ou des mises en situation. Soyons réalistes, il peut s'agir d'analyser une brèche de sécurité hypothétique. Entraîne-toi à penser à haute voix pendant que tu résous ces scénarios pour montrer ta méthodologie.
✨Parle de tes projets personnels
Pour un poste à temps plein, les recruteurs aiment voir que tu es passionné. N'hésite pas à parler de tes projets ou de tes contributions à des forums de cybersécurité. Montre que tu es proactif et que tu te tiens informé des dernières tendances dans le secteur.
✨Sois prêt à discuter d'outils de sécurité
Familiarise-toi avec les outils couramment utilisés dans la cybersécurité, comme Wireshark ou Metasploit. Lors de l’entretien chez SaferAI, tu pourrais être interrogé sur tes expériences avec ces outils. Assure-toi de pouvoir expliquer comment tu les as utilisés dans tes précédentes expériences ou projets.
