Geoff Ralston (oui, le gars qui dirigeait Y Combinator) vient de lancer un nouveau fonds de capital-risque et celui-ci dit qu'il est là pour « rendre l'IA sûre ».
Le nom ?
SAIF : le Fonds pour une Intelligence Artificielle Sûre.
L'ambiance ?
Nous sommes ici pour sauver l’avenir.
Mais arrêtons-nous une seconde…
S’agit-il vraiment de construire une meilleure IA ?
Ou la « sécurité » n’est-elle qu’une nouvelle façon de vendre la confiance ?
Â
💼 Que se passe-t-il réellement ?
Ce n’est pas une organisation à but non lucratif.
Il s’agit d’un fonds de capital-risque, ce qui signifie qu’il est là pour investir et générer des rendements.
L'objectif de Ralston est de soutenir les startups travaillant sur :
Des outils qui expliquent les décisions de l'IA (plus de réponses mystères)
Systèmes qui testent l'IA avant son lancement
Des produits qui aident l'IA à suivre les règles et réglementations
Technologie qui protège vos données contre la copie ou le piratage
Une IA qui détecte les fausses nouvelles et les attaques douteuses
Même les couches de sécurité des armes (pas les armes, juste les freins, apparemment)
Ça a l'air bien, non ?
Â
🤔 Mais soyons réalistes : que signifie réellement « sûr » ?
Il n’existe pas actuellement de définition unique de « l’IA sûre ».
Pas de règles mondiales. Pas de liste de contrôle universelle.
Alors… que financent-ils vraiment ?
Tout ce qui semble responsable.
Tout ce qui semble bon pour les futurs régulateurs.
Tout ce qui pourrait passer le test de détection du « pas mal » en 2025.
Autrement dit:
La sécurité ne signifie pas forcément des produits plus sûrs, mais simplement des relations publiques plus sûres.
Â
🕵️ Top Secret : La nouvelle ruée vers l'or ?
Les VC aiment les tendances.
« Disruptif » était le mot d’ordre.
Ensuite « éthique ».
Maintenant ? « En sécurité. »
Ce fonds ne ralentit pas la course à l’IA.
Il s'agit de renommer la piste.
Et honnêtement ? Ce serait peut-être intelligent…
Mais ne confondez pas l’étiquette avec le plan.
Â
💰 En résumé : ce que nous savons
Qui est derrière tout ça ? Geoff Ralston, ancien de Y Combinator.
Quel est le plan ? Financer des startups d'IA qui se présentent comme axées sur la sécurité.
Combien ? Plus de 100 millions de dollars
Quelle est la définition de « sûr » ? Flexible. Large. Encore en cours de définition.
Où sont les preuves ? À déterminer, selon qui ils soutiennent et à quel point ils s'en soucient réellement.
Vous pouvez en savoir plus Ă ce sujet :
👉 Couverture TechCrunch : ici .
🧊 Perspective de lumière gelée
Écoutez, nous ne sommes pas contre la sécurité de l’IA.
Nous voulons que les entreprises réfléchissent aux risques, aux biais et à l’impact à long terme.
Mais ne confondons pas un titre noble avec une mission noble.
Il s'agit d'un fonds de capital-risque. Il est là pour gagner de l'argent. Et « sûr » est soudain devenu l'étiquette la plus prometteuse.
Si ce fonds aide les bonnes équipes à mettre en place de véritables garde-fous ? Tant mieux.
Mais si tout cela n’est qu’une question d’ambiance et que vous ne portez pas votre ceinture de sécurité, nous serons les premiers à le signaler.
Voyons ce qu’ils construisent réellement.
Jusqu’à présent, gardez un œil sur l’étiquette et les petits caractères.