Exploração da transformação do setor financeiro sob a aplicação de grandes modelos

Desde o surgimento do ChatGPT, o setor financeiro imediatamente sentiu uma forte ansiedade. Esta indústria, repleta de fé na tecnologia, teme ficar para trás na onda de rápida evolução dos tempos. Essa sensação de ansiedade até se espalhou para templos tranquilos. Um profissional do setor revelou que, durante uma viagem de trabalho a Dali em maio, ela encontrou no templo profissionais financeiros discutindo sobre grandes modelos.

No entanto, essa ansiedade está gradualmente retornando à racionalidade, e o pensamento está se tornando mais claro. O CTO dos serviços bancários da SoftStone descreveu várias fases da atitude da indústria financeira em relação aos grandes modelos: de fevereiro a março, ansiedade generalizada; de abril a maio, formação de equipes; nos meses seguintes, dificuldades no processo de implementação, tornando-se mais racionais; agora, começando a focar em referências e tentando validar cenários testados.

Uma nova tendência é que muitas instituições financeiras já estão valorizando os grandes modelos a partir de uma perspectiva estratégica. De acordo com estatísticas incompletas, pelo menos 11 bancos listados na A-share mencionaram claramente em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. Com base nas ações recentes, eles estão realizando um pensamento e um planejamento de caminhos mais claros em termos de estratégia e design de alto nível.

Da empolgação à racionalidade

No início do ano, quando o ChatGPT apareceu pela primeira vez, os clientes do setor financeiro tinham uma compreensão muito limitada dos grandes modelos. Embora a empolgação fosse alta, não estava claro como utilizá-los concretamente. Alguns grandes bancos foram os primeiros a agir, começando a fazer vários tipos de propaganda para "aproveitar a onda". Ao mesmo tempo, os departamentos de tecnologia de algumas instituições financeiras de destaque estavam ativamente discutindo a construção de grandes modelos com grandes empresas. Eles geralmente esperavam construir seus próprios grandes modelos, fazendo perguntas sobre a criação de conjuntos de dados, compra de servidores, métodos de treinamento, entre outros.

Após maio, a situação começou a mudar gradualmente. Devido à escassez de recursos de poder de computação e aos altos custos, muitas instituições financeiras começaram a passar de uma mera esperança de construir suas próprias soluções para uma maior atenção ao valor aplicado. Atualmente, cada instituição financeira está atenta à forma como outras instituições estão utilizando grandes modelos e aos resultados obtidos.

Especificamente, as grandes instituições financeiras podem introduzir modelos de base líderes do setor, construir seus próprios modelos empresariais e, ao mesmo tempo, adotar ajustes finos para formar modelos de tarefas em áreas especializadas, capacitando rapidamente os negócios. As pequenas e médias instituições financeiras podem, por sua vez, introduzir serviços de API de nuvem pública de diversos modelos conforme necessário ou serviços de implantação privada, atendendo diretamente às suas necessidades de capacitação.

Devido às elevadas exigências do setor financeiro em relação à conformidade, segurança e confiabilidade dos dados, algumas pessoas acreditam que o progresso na implementação de grandes modelos neste setor está, na verdade, ligeiramente atrasado em relação às expectativas do início do ano. Algumas instituições financeiras já começaram a procurar soluções, como no que diz respeito ao poder de computação, existem várias abordagens:

1. Construir a capacidade de cálculo diretamente, com custos mais elevados, mas boa segurança, adequado para grandes instituições financeiras que desejam construir grandes modelos de indústria ou empresa.

2. Implantação mista de poder computacional, aceitando chamadas de interfaces de serviços de grandes modelos a partir de nuvens públicas, enquanto processa serviços de dados locais por meio de uma implantação privada, sem que dados sensíveis saiam do domínio. Este método tem um custo relativamente baixo e é adequado para instituições financeiras de pequeno e médio porte que utilizam sob demanda.

Em relação à dificuldade das pequenas e médias instituições em obter ou arcar com o custo das placas GPU, as autoridades estão explorando a construção de uma infraestrutura de grandes modelos voltada para a indústria de valores mobiliários, concentrando recursos de computação e modelos gerais, para que as pequenas e médias instituições financeiras também possam utilizar serviços de grandes modelos.

Na área de governança de dados, cada vez mais instituições financeiras de médio porte estão começando a construir plataformas de dados e sistemas de governança de dados. Alguns bancos estão resolvendo problemas de dados através da abordagem de grandes modelos + MLOps, alcançando a gestão unificada e o processamento eficiente de dados heterogêneos de múltiplas fontes.

A partir do cenário externo

Nos últimos seis meses, prestadores de serviços de modelos grandes e instituições financeiras têm procurado cenários aplicáveis, incluindo escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de riscos inteligente, análise de demanda, entre outros.

Cada instituição financeira tem ideias ricas sobre grandes modelos. Mas, na prática, geralmente adotam uma estratégia de primeiro para o interno e depois para o externo. Isso se deve ao fato de que a tecnologia dos grandes modelos ainda não está madura, e o setor financeiro tem altas exigências em termos de regulamentação, segurança e confiabilidade.

Atualmente, cenários como assistentes de código e escritórios inteligentes já foram implementados em várias instituições financeiras. No entanto, especialistas da indústria acreditam que esses cenários amplamente implementados ainda não são aplicações centrais das instituições financeiras, e os modelos grandes ainda estão a uma certa distância de penetrar nas camadas de negócios da indústria financeira.

Algumas mudanças a nível de design de alto nível estão em curso. Os futuros sistemas inteligentes e digitalizados serão construídos com base em grandes modelos, o que exige que a indústria financeira reestruture seus sistemas no processo de implementação de grandes modelos, ao mesmo tempo que permita que grandes modelos e pequenos modelos tradicionais colaborem.

Atualmente, várias instituições financeiras líderes construíram estruturas de sistemas em camadas, que incluem camadas de infraestrutura, camadas de modelos, camadas de serviços de grandes modelos e camadas de aplicações, baseadas em grandes modelos. Esses sistemas de estrutura apresentam duas características principais: a primeira é que os grandes modelos exercem uma capacidade central, utilizando modelos tradicionais como chamadas de habilidades; a segunda é que a camada de grandes modelos adota uma estratégia de múltiplos modelos, selecionando internamente o melhor desempenho através de competição.

A escassez de talentos continua a ser enorme

A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira. Alguns cargos enfrentam o risco de serem substituídos, mas também há bancos que esperam que os grandes modelos possam trazer novas oportunidades, melhorar a qualidade do serviço dos funcionários e a eficiência do trabalho, ao mesmo tempo que liberam alguns funcionários para realizar trabalhos de maior valor.

Mais importante ainda, a oferta de talentos em grandes modelos é difícil de corresponder à demanda crescente. As instituições financeiras enfrentam o desafio da escassez de talentos ao aplicar a capacidade de grandes modelos em processos de negócios essenciais. A demanda por talentos que aplicam diretamente grandes modelos é relativamente simples, mas se for necessário construir um grande modelo para a indústria ou empresa, será necessária uma equipe técnica especializada em grandes modelos verticais.

Algumas instituições tomaram medidas, como co-desenhar cursos de formação, estabelecer grupos de projeto conjuntos, entre outras, para melhorar as capacidades dos colaboradores das empresas. Neste processo, a estrutura de pessoal das instituições financeiras também passará por ajustes e transformações, sendo mais fácil reter desenvolvedores de grandes modelos.