Neste episódio falo com o Bartolomeu e o João sobre o projeto Amália, o LLM português, e como estamos a tentar construir um negócio à volta dele (iaamalia.com). Partilhamos as nossas frustrações, vitórias e aprendizagens técnicas, desde as limitações do modelo Amália, às integrações que fomos construindo, até ao pivot que fizemos para o Caravela. Uma conversa honesta sobre empreendedorismo bootstrap em Portugal, inteligência artificial e o que aprendemos a tentar vender um produto de AI no mercado português.
Links e Menções:
Nosso projeto: https://iaamalia.com/
Euro LLM: https://eurollm.io
Podsqueeze: https://podsqueeze.com
Idealista: https://www.idealista.pt
Portal Base: https://www.base.gov.pt
INE: https://www.ine.pt
Bolsa de Emprego: https://www.iefp.pt
Deep Seek: https://www.deepseek.com
Cursor: https://www.cursor.com
OpenAI / ChatGPT: https://www.openai.com
Anthropic / Claude: https://www.anthropic.com
Google Gemini: https://gemini.google.com
Mistral: https://www.mistral.ai
Trivago: https://www.trivago.pt
Academia de Código: https://www.academiadecodigo.org
Timestamps:
00:00:00 Introdução ao projeto Amália e apresentação dos convidados
00:01:15 Bartolomeu conta como passou de design para developer
00:02:01 João e a transição para developer com ajuda da IA
00:03:10 O verdadeiro problema nunca foi o código mas sim as decisões de produto
00:04:18 O que é o Amália e como se compara com outros modelos
00:05:34 As limitações técnicas do Amália e a evolução da IA em dois anos
00:06:28 Valeu a pena gastar 5 milhões de euros no Amália
00:07:06 Comparação de parâmetros entre o Amália e modelos como o Deep Seek
00:07:52 A frustração com o Amália e a perceção pública do modelo
00:09:35 O Amália não serve para produção e alucina demasiado
00:10:01 Como começou o projeto e a estratégia de audience first
00:11:47 A ligação do Amália a um RAG e os primeiros desafios técnicos
00:12:26 O que é um RAG e como funciona
00:13:45 Quando o Amália conseguiu responder quem é o primeiro ministro
00:15:27 O que são evals e como os usámos para testar modelos
00:16:50 O Amália alucina mesmo com informação certa à frente dele
00:17:46 Comparação de modelos open source e escolha do cérebro do Caravela
00:18:06 Como funciona um eval na prática
00:19:07 O Amália fica em último nos seus próprios testes
00:19:51 O que é o reasoning e porque o Amália não o tem
00:21:02 O problema do tool calling no Amália e como demos a volta
00:22:09 O regime híbrido com o Amália como sub agente
00:23:30 O que é o Caravela e como funciona o model routing
00:25:03 A questão da privacidade e hospedar modelos na Europa
00:25:45 Os problemas com os providers europeus e o Deep Seek
00:27:04 Como construímos a nossa própria infraestrutura para resolver os erros
00:28:15 Providers a redirecionar tráfego para fora da Europa sem avisar
00:29:01 As primeiras tentativas de monetização e o que os clientes queriam
00:30:14 Os erros de vendas e as reuniões com potenciais clientes
00:31:55 O factor curiosidade versus o factor pagar
00:33:01 O nosso value proposition segundo os próprios clientes
00:34:37 A estratégia de cobrar logo uma fee inicial para filtrar interesse
00:35:00 O pivot para as integrações como valor principal do projeto
00:36:06 A perspetiva do Bartolomeu sobre o processo de empreendedorismo
00:37:00 A discussão geral sobre o futuro da IA e dos modelos open source
00:38:21 Porque é que as empresas ainda pagam caro por modelos de marca
00:40:14 O ROI da IA nas empresas bootstrap e a ilusão de produtividade
00:41:00 Mais funcionalidades não significa mais dinheiro
00:43:55 O futuro das grandes empresas de IA como OpenAI e Anthropic
00:45:17 A Apple e a estratégia de correr modelos localmente
00:48:58 Previsões sobre o mercado português e o futuro do projeto Amália
00:50:20 A estratégia de distribution first sem produto definido
00:51:14 O cliente do setor têxtil e as integrações com o INE
00:52:20 Apelo final e como contactar para integrar o Caravela na vossa empresa
