A ferramenta móvel Boamente tem sido desenvolvida para apoiar Profissionais de Saúde Mental (PSMs) na prevenção do suicídio, detectando e monitorando remotamente a ideação suicida de pacientes. O sistema coleta textos de usuários por meio de um teclado virtual personalizado em dispositivos móveis (e.g., smartphones, tablets), enviando-os para uma plataforma web. Utilizando o modelo BERTimbau Large, o Boamente apresentou resultados promissores na detecção de ideação suicida. Contudo, sua evolução exige comparar seu desempenho com Large Language Models (LLMs) generativos, compreender como sua Inteligência Artificial (IA) identifica ideação suicida mediante métodos de IA Explicável e investigar fatores que influenciam a confiança dos PSMs na adoção do sistema. O objetivo geral desta pesquisa de doutorado é avaliar a capacidade da IA do Boamente como ferramenta de apoio aos PSMs, analisando o desempenho comparativo com LLMs generativos, explicando como a ideação suicida é identificada em sentenças em Português Brasileiro e avaliando fatores de confiança, com ênfase na qualidade das explicações. A tese está estruturada em quatro estudos. O Estudo 01 utilizou o ELI5 para explicar como palavras influenciam os resultados dos modelos clássicos de IA, destacando termos como “suicídio”, “desejo de se matar” e “tristeza”. O Estudo 02 comparou três variações de modelos BERT e os LLMs Google Bard, Microsoft Bing/GPT-4 e OpenAI ChatGPT-3.5; o Bing/GPT-4 teve melhor desempenho (98%), e os modelos BERT superaram Bard e ChatGPT. A alta sensibilidade dos modelos indica menor taxa de erros, essencial para evitar falhas de intervenção. O Estudo 03 investigou a influência da Intervenção Educacional e das explicações na confiança dos PSMs, com 78 participantes distribuídos em quatro grupos, revelando que explicações adequadas aumentam a confiança crítica, enquanto sua ausência gera confiança excessiva. O Estudo 04 avaliou o Boamente com os modelos Qwen 3, destacando o Qwen 3 (4B) por seu F1-score e Recall superiores. As explicações textuais com raciocínio mostraram-se mais eficazes em compreensão, consistência, relevância e confiança. Conclui-se que explicações textuais são essenciais para a aceitação de sistemas de IA em saúde mental.