Ta3001 em essêcia, se você treinar um IA no seu computador local, as informações ficarão restritas apenas no seu computador. Para ficar online e todos acessarem, você teria que subir um servidor web e deixá-lo conectado permanentemente na internet, mas acredito que não seja esse o caso.
Sobre colocar informações confidenciais em uma IA como o chatGPT, por exemplo, você está totalmente certo. Muitas empresas proibem os funcionários de utilizar o chatGPT por que não sabemos exatamente como os dados são armazenados, e colocar informações importantes das empresas no chatGPT pode ser um grande problema se essas informações vazarem de alguma forma.