Así que, básicamente, nos gustaría resolver el BVP $$(\nabla^2+k^2)u=0\\u(\boldsymbol r)=0\text{when}|\boldsymbol r|=R$$ En $k^2$ es una cuestión de conveniencia. Si $\lambda$ en su ecuación es en realidad un número real positivo, podemos tomar $k$ ser puramente imaginario. Hay que tener en cuenta que la ecuación no está totalmente determinada, ya que se trata de una ecuación de segundo orden para la que sólo hemos suministrado una condición de contorno.
He tomado la posición de la partícula cargada en el origen. Más adelante podemos utilizar un desplazamiento de coordenadas para colocar el objeto cargado en la posición que queramos. Basándome en cómo estoy interpretando tu pregunta, creo que podemos seguir adelante y asumir que $u$ tiene una simetría agradable, es decir, la dependencia angular desaparece, $\partial_\theta u=\partial_\phi u=0$ . En ese caso, el Laplaciano adopta la forma $$\nabla^2u=\frac{1}{r^2}\left(r^2\frac{\partial u}{\partial r}\right)=\frac{2}{r}\partial_ru+\partial_r^2u$$ Así que ahora en lugar de una EDP, en realidad tenemos una EDO $$u''(r)+\frac{2}{r}u'(r)+k^2u(r)=0$$ Entonces... ¿cómo resolver esto? Pues.., sin avisar podemos intentar un ansatz $$u(r)=v(r)/r$$ Si conecta esto para $u$ y haga los cálculos, verá que se simplifica a $$\frac{v''(r)+k^2v(r)}{r}=0$$ Suponiendo que $r\neq 0$ podemos multiplicar ambos lados y resolver para $v$ para obtener $$v(r)=c_1\sin(kr)+c_2\cos(kr)$$ Y así $$u(r)=c_1\frac{\sin(kr)}{r}+c_2\frac{\cos(kr)}{r}$$ Nuestra condición de contorno es $$c_1\sin(kR)+c_2\cos(kR)=0\implies c_2=-c_1\tan(kR)$$ Por lo tanto $$u(r)=c_1\left(\frac{\sin(kr)}{r}-\tan(kR)\frac{\cos(kr)}{r}\right)$$ Ahora podemos desplazar esta ecuación por algún vector $\boldsymbol{r}_0$ para obtener $$u(\boldsymbol{r})=c_1\left(\frac{\sin(k|\boldsymbol{r}-\boldsymbol{r}_0|)}{|\boldsymbol{r}-\boldsymbol{r}_0|}-\tan(kR)\frac{\cos(k|\boldsymbol{r}-\boldsymbol{r}_0|)}{|\boldsymbol{r}-\boldsymbol{r}_0|}\right)$$ ¿Quizás esto ayude?