Rocket Mortgage jette les bases du succès de l’IA générative

L’efficacité et la précision sont essentielles au succès dans le secteur hypothécaire. Il est également important de garder toutes vos options ouvertes. C’est pourquoi Rocket Mortgage a activement introduit les technologies d’apprentissage automatique et d’IA, et pourquoi le CIO Brian Woodring met l’accent sur une stratégie d’IA qui « met les humains au courant ».

L’opérateur de prêts à la consommation basé à Détroit met en œuvre l’apprentissage automatique et l’IA depuis plus d’une décennie et est l’un des rares pionniers à lancer des capacités d’IA générative sur le marché.

« Nous produisons plusieurs cas d’IA générative depuis environ un an maintenant », a déclaré Woodring, ajoutant qu’un chatbot d’IA générative que la société développe, par exemple, peut faire plus que simplement souligner qu’il est conçu pour être entendu. et compris.

Un autre assistant d’IA générative développé par Rocket analyse les noms d’employeur des candidats pour garantir que les employeurs qui peuvent être inscrits sous des noms différents sont compris comme étant les mêmes et pour accélérer considérablement le processus de prise de décision. Par exemple, la plupart des gens savent que Google et Alphabet sont le même employeur. Selon Woodring, former un assistant d’IA générative à utiliser ces connaissances humaines pour vérifier l’identité d’un employeur est beaucoup plus efficace que de créer une base de données de noms de sociétés mères et de les comparer à des identités de filiales ou d’entreprises plus générales.

Rocket Mortgage, qui a été l’un des premiers à adopter l’IA générative, l’a fait en mettant en place des garde-fous et des lignes directrices appropriées pour convaincre les investisseurs et les régulateurs qu’elle mettait en œuvre la technologie de manière sûre et responsable, ajoute Woodring. L’entreprise automatise désormais entièrement plusieurs processus métier avec du code et de l’IA développés en interne. Mais dans les applications d’IA générative qui impliquent des décisions telles que la souscription ou non d’un prêt hypothécaire, dit Woodring, « il y a toujours un humain dans le circuit ».

« Les CoPilots et les systèmes dotés d’IA générative (beaucoup des choses que nous construisons) utilisent une combinaison de modèles d’IA générative qui connaissent tout ce qui est publié sur Internet depuis des années et le jugement humain, il a été constaté que la précision des décisions peut être améliorée de 10. % à 15 %.

Les analystes affirment que l’intégration de la contribution humaine pour approuver les décisions et les résultats des processus d’IA générative s’avère être un moteur essentiel du succès précoce de l’IA générative.

« Generative AI est un travailleur du savoir virtuel doté de la capacité de connecter des points de données disparates et de synthétiser des informations en quelques secondes », a déclaré Ritu Jyoti, vice-président du groupe des services de recherche et de conseil sur le marché mondial de l’IA et de l’automatisation chez IDC. « Cela leur permet de se concentrer sur. tâches à plus forte valeur ajoutée. »

« L’IA transforme les processus tels que la souscription de prêts, mais pour être une technologie véritablement efficace et viable, une précision à 100 % est requise, ce qui nécessite des humains impliqués. »

Viser une IA qui ne se limite pas aux modèles

La majeure partie du code de Rocket est construite en interne, avec plus de 1 000 ingénieurs et 600 data scientists travaillant ensemble.

Lorsque Woodring a rejoint l’entreprise en 2017 en tant que CTO pour diriger l’équipe d’ingénierie produit, l’une de ses principales priorités était d’accélérer l’adoption du cloud par Rocket.

« L’une des premières choses que j’ai faites six mois après avoir rejoint l’entreprise a été de déclarer qu’à partir de maintenant, toutes les nouvelles technologies seraient construites dans le cloud », explique-t-il.

Actuellement, 60 à 70 % des charges de travail de Rocket s’exécutent dans le cloud, dont plus de 95 % sur AWS. Le reste est sur site.

Woodring a déclaré que les premiers modèles d’apprentissage automatique de l’entreprise avaient été développés il y a plus de dix ans pour automatiser des tâches telles que le marketing, la reconnaissance des modèles de génération de leads et le processus d’octroi de prêts.

Mais au cours des cinq ou six dernières années, l’utilisation de l’IA par Rocket s’est « accélérée », a déclaré Woodring. Par exemple, environ les deux tiers des vérifications des revenus des demandeurs de prêt sont désormais effectuées à 100 % par des modèles d’apprentissage automatique et la technologie de l’IA, dit-il.

« Presque tous les aspects de notre entreprise sont désormais touchés par le ML et l’IA, l’automatisation des tâches, la reconnaissance de formes et l’analyse des données », a déclaré Woodring, ajoutant que chaque fois que des décisions doivent être prises, les humains le font. Il a réitéré que cela faisait partie du processus de clôture.

Les ingénieurs de Rocket et les data scientists utilisent la technologie AWS Bedrock et Anthropic AI pour développer des modèles d’IA génératifs. Bien qu’il s’agisse principalement d’une boutique AWS, Rocket adopte une approche indépendante du modèle pour sa plate-forme d’IA générative. Varun Krishna, PDG de Rocket Companies, un responsable technologique chevronné ayant une expérience chez PayPal et Microsoft, entretient des relations directes avec tous les fournisseurs de modèles de base d’IA, notamment AWS, Anthropic, OpenAI, Google et Mistral, a déclaré M. Ring.

Woodring a ajouté : « Il n’y aura pas de « gagnant » clair dans cette course aux armements complexe en matière d’IA. » « Nous verrons plutôt différents modèles d’IA, adaptés à différents cas d’utilisation. Nous voulons être en mesure d’introduire le bon modèle au bon moment, ce qui est une stratégie puissante. »

Woodring a déclaré que l’un des aspects les plus précieux d’AWS Bedrock est qu’il établit une plate-forme de données standard pour Rocket, permettant aux prêteurs hypothécaires de transférer « très rapidement » les données vers la bonne IA. Ils disent qu’ils seront en mesure de les fournir au modèle. Dans d’autres cas, Rocket teste différents modèles d’IA pour « vérifier leur efficacité sur différentes tâches », explique Woodring. « Ça vaut vraiment le coup », dit-il.

Le CIO affirme qu’AWS a un état d’esprit similaire et ne s’engage « pas envers un seul gagnant ». « Cela fait écho à notre stratégie consistant à choisir le bon modèle d’IA pour le bon travail. »

Moderniser les opérations de données

Les DSI comme Woodring comprennent que la qualité d’un modèle d’IA dépend fortement de la qualité des données impliquées et de la manière dont ces données sont injectées dans de grands modèles de langage à partir de bases de données, d’entrepôts de données, de lacs de données cloud, etc. Je connais très bien Ruka.

Ainsi, une technologie de pointe qui intègre 10 000 téraoctets de données stockées dans des entrepôts de données sur site depuis plus d’une décennie avec des données semi-structurées stockées dans les lacs cloud AWS est d’une importance primordiale pour l’IA de Rocket. construire une plateforme de données. Comme de nombreuses entreprises, Rocket continue d’exploiter certains de ses centres de données en raison de l’ancienne technologie qu’elle utilise encore.

Rocket fait évoluer sa stratégie de lac de données vers la plateforme de données AWS. La plate-forme accueillera les données structurées, semi-structurées et non structurées émergentes, avec une sémantique et des taxonomies pour les rendre « considérablement plus faciles à découvrir et à utiliser » pour la consommation humaine et logicielle.

Cela place les données dans le meilleur référentiel pour que les modèles d’IA puissent les ingérer. Tenter de nettoyer toutes les données de Rocket est inutile et fastidieux, dit-il, et ralentira le processus de déploiement d’applications de nouvelle génération.

« Nous sommes une entreprise axée sur les données, et notre activité, le montage de prêts hypothécaires, est en grande partie une activité de traitement de données », a déclaré Woodring.

Le moteur d’IA générative active et la plate-forme de données de nouvelle génération de l’entreprise sont conçus pour fournir rapidement des données sous toutes leurs formes, organisées pour des tâches spécifiques et livrées dans le bon format pour faire évoluer votre portefeuille, affirme le CIO.

Tout ce dont vous avez besoin, c’est d’une équipe et de temps, ajoute-t-il. « Nous apprécions de pouvoir agir rapidement ici et de commercialiser rapidement nos idées. »