El sector financiero se pregunta cómo
solucionar uno de los problemas más comunes en los algoritmos generativos que
asisten a sus usuarios en el día a día.
México, 19 de marzo de 2025.- Imagina
que tienes un problema con tu banco y, para resolverlo, consultas con un
ejecutivo virtual disponible 24/7. Pero en lugar de ofrecerte una solución
clara, te da una respuesta incoherente o incorrecta. Este fenómeno se conoce como “alucinaciones” en la Inteligencia
Artificial.
Las
Inteligencias Artificiales a veces pueden dar respuestas escritas de forma
coherente, pero con datos incorrectos, sesgados o simplemente equivocados. Es
decir, tienen tendencia a “alucinar”. Estos errores se pueden deber a un mal
proceso de decodificación de la información o también a que muchos
desarrolladores nutren a los sistemas con información de Internet, la cual no
siempre es correcta.
“En el caso de los Chatbots de bancos y
fintechs, por ejemplo, su sistema usa modelos lingüísticos LLM (Large Language
Model) que aprenden automáticamente de diversas fuentes de información, pero no
tienen forma de evaluar que lo que reproducen es correcto”, explica Pablo Velán, CTO de N5, empresa especializada en software para
la industria financiera.
Estas alucinaciones, en el sector financiero, no son solo un error técnico, sino un desafío que afecta la
confianza de los clientes en las soluciones digitales. Si los modelos no son
monitoreados adecuadamente, pueden difundir
información incorrecta y afectar la credibilidad de los bancos y fintechs.
Según
un análisis de Vectara, los chatbots
pueden cometer errores en entre el 3% y
el 27% de sus respuestas, lo que representa un desafío significativo para
el sector financiero.
¿Es posible un producto a gran escala sin
alucinaciones?
La IA Generativa ya es una realidad en México,
impactando la manera en que operan bancos y fintechs. En 2023, este mercado fue
valorado en 1.12 billones de dólares,
y se espera que alcance los 4.37
billones para 2027, según Market.us. La confianza en estos sistemas es
clave para su adopción masiva.
“En N5, con el lanzamiento de nuestras
tres Inteligencias Artificiales ‘Fin Skys’, aplicamos dos estrategias clave:
mantenerlas aisladas de la red y utilizar múltiples sistemas para validar sus
respuestas. Esto reduce drásticamente los errores y mejora la confianza en la
IA dentro del sector financiero”,
detalla Velán.
Así es
como los productos Alfred, Pep y
Singular pueden sortear esta dificultad que preocupaba al sector
financiero. Al poder integrarse en
cualquier sistema core, CRM y/o BPM de la institución, estos algoritmos poseen
independencia de datos para máxima seguridad, lo que reduce notablemente la
cantidad de alucinaciones.
Enfocadas en asistir a la industria
financiera, las Fin Skys buscan solucionar los desafíos únicos de esta
industria, garantizando que todas las funcionalidades sean atendidas
plenamente, desde responder dudas y consultas hasta vender productos, cobrar deudas,
asesorar sobre inversiones o planificación fiscal de forma proactiva.
Como toda herramienta en plena evolución y
crecimiento, la IA también tendrá que enfrentarse a diferentes barreras y
malestares propios. Afortunadamente, los expertos tecnológicos están atentos a
sus cambios y listos para dar respuesta a cualquier obstáculo que aparezca en
el camino.
–
Acerca
de N5
Fundada en agosto de 2017 por Julian
Colombo, N5 es una empresa de software especializada en la industria
financiera, dedicada a ofrecer soluciones innovadoras para que el sector se
adapte a un mundo en constante evolución tecnológica. En pleno crecimiento, la
compañía está presente en más de 15 países y ha experimentado un crecimiento
atípico, con tasas del 200% anual.
Siendo la única empresa en el mundo que ofrece una Plataforma
Systematics exclusivamente para instituciones financieras, N5 ha integrado
recientemente socios estratégicos como Illuminate Financial, Exor Ventures,
Madrone Capital Partners, LTS Investments y Arpex Capital. En su cartera de
clientes de la plataforma y servicios se incluyen empresas como: Mastercard,
Santander, Credicorp Bank, Zurich, Sudameris, N26, Farmers Insurance, Banco
Atlas y BCP.
No hay comentarios:
Publicar un comentario