En un coup d'œil
- Missions: Recherchez des méthodes innovantes pour auditer et sécuriser les modèles d'IA.
- Entreprise: Institut de recherche à la pointe de la technologie avec une culture collaborative.
- Avantages: Salaire compétitif, environnement dynamique et opportunités de développement professionnel.
- Autres infos: Travaillez avec des doctorants dans un cadre stimulant et enrichissant.
- Pourquoi ce job: Contribuez à la sécurité de l'IA tout en travaillant sur des projets de recherche passionnants.
- Qualifications: Expérience en apprentissage automatique et compétences en programmation Python.
Le salaire estimé est compris entre 49500 - 60500 € par an.
Les modèles basés sur l'IA sont désormais au cœur d'un large éventail d'applications, y compris des applications hautement critiques. Les enjeux sont considérables pour les entreprises ou les institutions qui les déploient, car leur formation peut coûter jusqu'à un milliard de dollars (par exemple, pour la formation de ChatGPT). Cela appelle clairement à les défendre contre les attaques, telles que la copie/extraction. Parallèlement, des institutions telles que les régulateurs étatiques doivent s'assurer que ces modèles fonctionnent conformément à la loi, en particulier en ce qui concerne la discrimination possible. Les chercheurs sont alors chargés de fournir des algorithmes aux auditeurs pour évaluer des métriques importantes concernant les modèles basés sur l'IA déployés.
Dans le cadre d'audits en boîte noire, où un auditeur n'a pas accès aux internes du modèle opéré à distance, l'objectif est d'estimer discrètement (c'est-à-dire avec peu de requêtes seulement) certaines métriques, telles que l'équité. Il est intéressant de noter que cette configuration d'audit est très proche du gain d'information offensif, d'un point de vue conceptuel. En effet, les attaquants potentiels sont incités à essayer de divulguer des informations provenant des modèles déployés. Les motivations vont de l'intelligence économique, à l'obtention de détails d'implémentation, en passant par l'évitement des coûts de développement en copiant des modèles déployés.
Un auditeur s'intéresse à l'observation discrète du modèle, afin d'éviter de perturber le modèle audité en utilisant trop de requêtes. De même, un attaquant désire également la discrétion, ici pour éviter d'être détecté et coupé. En particulier, les auditeurs souhaitent généralement obtenir une estimation précise des propriétés, mais confinée à une seule caractéristique (par exemple, l'équité homme/femme), tandis que les attaquants visent à avoir une vue d'ensemble du modèle (pour une copie de base, ou pour contourner un ensemble de paramètres).
Nous proposons de travailler sur une hiérarchie des attaques, qui mettra en lumière les plus petites attaques (en termes d'hypothèses et de portée) et comment elles pourraient être composées en attaques plus grandes. Cette hiérarchie révélera des configurations inexplorées, où plusieurs attaques simples seront combinées pour construire des attaques plus riches. Cette hiérarchie fournira le lien manquant entre les audits et la sécurité de l'IA, reliant les deux de manière formelle.
Le candidat postdoctoral tirera parti de ses connaissances en algorithmique pour concevoir une hiérarchie, en parallèle à la hiérarchie de Herlihy dans les algorithmes. Nous avons l'intention d'utiliser la notion de "distinguabilité" comme colonne vertébrale de la hiérarchie (pour évaluer si une attaque divulgue des données permettant une distinguabilité forte ou faible des modèles). En particulier, le domaine du "test de propriété" sera lié à cette hiérarchie.
Compétences requises :
- Connaissances avancées en apprentissage automatique et théorie de l'apprentissage automatique
- Compétences en codage Python pour les expériences (si nécessaire)
- Un bon dossier de publications est obligatoire
- La maîtrise de l'anglais est obligatoire
Post-Doctoral Research Visit F/M From AI audits to AI security: an information gain hierarchy in Rennes employeur : AI Facile
AI Facile offre des opportunités de recherche passionnantes dans le domaine de l'audit et de la sécurité de l'IA, permettant aux chercheurs de collaborer avec des doctorants et de publier dans des revues de premier plan. L'environnement de travail favorise l'innovation et l'exploration de problèmes ouverts, tout en contribuant à des questions critiques liées à la légalité et à l'éthique des systèmes d'IA.
Conseils d'expert StudySmarter🤫
Voici comment nous pensons que tu pourrais décrocher Post-Doctoral Research Visit F/M From AI audits to AI security: an information gain hierarchy in Rennes
✨Connecte-toi avec des chercheurs et des professionnels
Les réseaux sociaux académiques comme ResearchGate ou Academia.edu sont parfaits pour établir des connexions. N'hésite pas à interagir avec des publications de chercheurs qui t'inspirent, ça pourrait mener à des opportunités au sein d'équipes de recherche comme celles de AI Facile.
✨Participe à des conférences et des séminaires
Les événements académiques sont des occasions en or pour rencontrer des experts du domaine. Si tu as l'occasion de présenter ton travail, fais-le ! C'est une superbe façon de te faire remarquer et d’augmenter ta visibilité auprès de potentiels employeurs, notamment dans le secteur de la recherche scientifique.
✨Reste informé sur les nouvelles publications
Abonne-toi à des revues scientifiques qui publient des études dans ton domaine d'intérêt. La connaissance des dernières avancées te permettra non seulement de briller lors des entretiens, mais aussi de discuter des tendances qui intéressent AI Facile.
✨Postule directement sur notre site web
N'oublie pas de consulter notre site pour les offres d'emploi chez AI Facile. Souvent, des postes intéressants ne sont pas publiés ailleurs. Être proactif et t'inscrire dès que quelque chose d'intéressant apparaît peut vraiment faire la différence dans ta recherche.
Nous pensons qu'il te faut ces compétences pour exceller en tant que Post-Doctoral Research Visit F/M From AI audits to AI security: an information gain hierarchy in Rennes
Quelques conseils pour ta candidature 🫡
Mets en avant tes compétences techniques:Dans le domaine de la recherche scientifique, on adore voir des compétences techniques précises. N’hésite pas à détailler tes expériences en laboratoire, les méthodologies que tu maîtrises et les outils analytiques que tu utilises. Des compétences en informatique comme la gestion de données ou la modélisation peuvent aussi faire la différence !
Valorise tes publications:Si tu as déjà publié des articles ou présenté des travaux lors de conférences, assure-toi de les mettre en avant ! Inclure des liens vers tes publications ou ton portfolio scientifique dans ton CV peut vraiment t'aider à te démarquer auprès de AI Facile.
Sois clair sur tes motivations:Étant donné que c'est un poste à temps plein, explique pourquoi tu souhaites rejoindre AI Facile en particulier et comment cela s'inscrit dans ton parcours. Montre que tu es passionné par la recherche et que tu as des idées sur comment contribuer aux projets en cours !
Format professionnel mais accessible:Dans ta candidature, utilise un format clair et accessible. Évite le jargon trop complexe mais n'hésite pas à montrer ta rigueur scientifique. Un bon équilibre entre professionnalisme et une approche compréhensible peut faire toute la différence pour AI Facile.
Comment te préparer à un entretien d'embauche chez AI Facile
✨Prépare ta littérature scientifique !
On doit être au top sur les dernières avancées dans ton domaine. Assure-toi de bien comprendre les articles récents publiés et sois prêt à discuter de leur impact lors de l'entretien, surtout ceux qui concernent AI Facile.
✨Pratique les questions techniques
Les entretiens dans la recherche scientifique peuvent inclure des questions techniques et méthodologiques. Prépare-toi à expliquer tes méthodes de recherche précédentes et à discuter des outils que tu sais utiliser, comme les logiciels de modélisation ou d'analyse de données.
✨Mets en avant tes projets de recherche
Comme on cherche à savoir comment tu te démarques, prépare un portfolio qui présente tes projets scientifiques. Ça peut inclure des publications, des présentations à des conférences ou même des posters. Ça montre ta capacité à contribuer à AI Facile dès le départ !
✨Montre ta passion pour l'innovation
Dans le monde de la recherche scientifique, l'innovation est essentielle. Prépare des exemples concrets où tu as eu des idées originales dans tes travaux. Parles-en avec enthousiasme pour vraiment convaincre les recruteurs que tu es la personne qu'il leur faut.
