Esto no es una respuesta, sino algunos datos a título ilustrativo. Parece que hay valores críticos $n_x$ para algunos $x$ cerca de cero, de tal manera que las evaluaciones parciales se vuelven tranquilas desde valores inicialmente complejos hasta finalmente reales. He interpretado su función para algún n dado como $$f(x,n)=\sqrt{1x-\sqrt{2x- \cdots \sqrt{nx}}}$$ Luego miré secuencias de $f(x,1)^2,f(x,2)^2,\ldots,f(x,n_x)^2,f(x,n_x+1)^2,\ldots$ observar que para cualquier x habrá un $n_x$ desde donde las evaluaciones no son más complejas sino sólo reales. Aquí están las tablas para los tres valores iniciales $x_1=0.1, x_2=0.01,x_3=0.001$ . Es interesante, que parece, que la "crítica" $n_x$ converge a algún múltiplo escalar del recíproco de $x$ con expansión decimal de 216... . Hmmm....
For x_1=0.1
n f(0.1,n)^2
... ...
11 -0.302448089681-0.698792219012*I
12 -0.403301213973+0.649132465935*I
13 -0.262532045796-0.730589943250*I
14 -0.470664193786+0.569986543411*I
15 -0.116352885709-0.685312310620*I
16 -0.480413735006+0.369973112245*I
17 0.0771358518666-0.590686848231*I
18 -0.388211746572+0.195833371751*I
19 0.100000000000-0.291614520825*I
20 -0.181148810826
21 0.100000000000-0.131286629014*I
22 -0.0579158347766
23 0.0390823334499
24 -0.0157619545048
25 0.00542274237370
26 -0.00443384940800
For x_2=0.01
n f(0.01,n)^2
... ...
205 -0.114449346430-0.449020909239*I
206 -0.273308708016+0.245486912151*I
207 0.0100000000000-0.340544340711*I
208 -0.208411838263+0.166444378377*I
209 0.0100000000000-0.199665697307*I
210 -0.160212530941+0.0947222555124*I
211 0.0100000000000-0.115794748628*I
212 -0.102423208202
213 0.0100000000000-0.0608690577550*I
214 -0.0369471693906
215 0.0100000000000-0.0288680515620*I
216 -0.0136757225356
217 0.0100000000000-0.0107416751802*I
218 -0.00424432651020
219 0.00282037509906
220 -0.00108467768822
221 0.000551999344977
222 -0.000248398685385
223 0.000118131086199
224 -0.0000545149536090
225 0.0000254248494297
226 -0.0000117292180991
227 0.00000543517323693
228 -0.00000248279244384
For x_3=0.001 // internal computation precision: 1200 dec digits
n f(0.001,n)^2
... ...
2149 0.00100000000000-0.0771283223568*I
2150 -0.0593075793195+0.0404599076046*I
2151 0.00100000000000-0.0465223021845*I
2152 -0.0465304437990+0.0160979218450*I
2153 0.00100000000000-0.0254836686768*I
2154 -0.0190199767319
2155 0.00100000000000-0.0127892711274*I
2156 -0.00817903802372
2157 0.00100000000000-0.00611680141511*I
2158 -0.00341928431634
2159 0.00100000000000-0.00278386814867*I
2160 -0.00127422891686
2161 0.00100000000000-0.000989592316296*I
2162 -0.000393138741302
2163 0.000256090838303
2164 -0.000100925375352
2165 0.0000516413154610
2166 -0.0000235893686835
2167 0.0000113842433808
2168 -0.00000535253161006
2169 0.00000254701184424
2170 -0.00000120460035318
2171 0.000000571115136334
2172 -0.000000270334146946
He aquí una imagen de la trayectoria de $x_3=0.001$ y aumentando n . Usando poca precisión interna (200 dec dígitos en Pari/GP) parecía que convergía a la 3ª raíz unitaria compleja. v (donde $v^3=1$ ) pero utilizando 800 dígitos de precisión permiten que converja a algo cercano a cero. Todavía no he analizado esto con más detalle... (Actualización/Corrección: en la imagen he escrito incorrectamente $f(x,n)$ en lugar de $f(x,n)^2$ . Corregiré la imagen más tarde)
For x_4=0.0001 // internal computation precision: 3600 dec digits
n f(0.0001,n)^2
... ...
21579 0.000100000000000-0.00210357411418*I
21580 -0.00136741030855
21581 0.000100000000000-0.00100044565776*I
21582 -0.000601677005986
21583 0.000100000000000-0.000467850547807*I
21584 -0.000244806521553
21585 0.000100000000000-0.000204301322925*I
21586 -0.0000860033335819
21587 0.000100000000000-0.0000411110536353*I
21588 -0.0000247254403485
21589 0.0000142141209815
21590 -0.00000608992862360
21591 0.00000302817937704
21592 -0.00000140739716572
21593 0.000000675808679202
21594 -0.000000319550497880
21595 0.000000152205000659
21596 -0.0000000722426625118
21597 0.0000000343450467856
21598 -0.0000000163147256218
21599 0.00000000775254705649
21600 -0.00000000368314354146
21601 0.00000000174991223509
21602 -0.000000000831348437546