restart;
solve({l*(2*l^2*lambda^4*sigma*w*a[2]+l^2*lambda^2*mu*w*b[1]+6*l*lambda^2*m*sigma*a[0]^2-6*l*lambda^2*m*b[1]^2+6*l*m*mu^2*a[0]^2-l*lambda^2*rho*sigma*a[0]-l*mu^2*rho*a[0]+4*lambda^2*sigma*w*a[0]+4*mu^2*w*a[0]) = 0, l*(2*l^2*lambda^3*sigma*w*a[1]+6*l^2*lambda^2*mu*w*b[2]+2*l^2*lambda*mu^2*w*a[1]+12*l*lambda^2*m*sigma*a[0]*a[1]-12*l*lambda^2*m*b[1]*b[2]-l*lambda^2*rho*sigma*a[1]+12*l*m*mu^2*a[0]*a[1]-l*mu^2*rho*a[1]+4*lambda^2*sigma*w*a[1]+4*mu^2*w*a[1]) = 0, l*(5*l^2*lambda^3*sigma*w*b[2]-3*l^2*lambda^2*mu*sigma*w*a[1]-7*l^2*lambda*mu^2*w*b[2]-3*l^2*mu^3*w*a[1]+12*l*lambda^2*m*sigma*a[0]*b[2]+12*l*lambda^2*m*sigma*a[1]*b[1]-l*lambda^2*rho*sigma*b[2]+24*l*lambda*m*mu*b[1]*b[2]+12*l*m*mu^2*a[0]*b[2]+12*l*m*mu^2*a[1]*b[1]-l*mu^2*rho*b[2]+4*lambda^2*sigma*w*b[2]+4*mu^2*w*b[2]) = 0, l*(8*l^2*lambda^3*sigma*w*a[2]+6*l^2*lambda*mu^2*w*a[2]+12*l*lambda^2*m*sigma*a[0]*a[2]+6*l*lambda^2*m*sigma*a[1]^2+l^2*lambda*mu*w*b[1]-6*l*lambda^2*m*b[2]^2-l*lambda^2*rho*sigma*a[2]+12*l*m*mu^2*a[0]*a[2]+6*l*m*mu^2*a[1]^2-6*l*lambda*m*b[1]^2-l*mu^2*rho*a[2]+4*lambda^2*sigma*w*a[2]+4*mu^2*w*a[2]) = 0, -l*(4*l^2*lambda^3*mu*sigma*w*a[2]-l^2*lambda^3*sigma*w*b[1]+l^2*lambda*mu^2*w*b[1]-12*l*lambda^2*m*sigma*a[0]*b[1]+l*lambda^2*rho*sigma*b[1]-12*l*lambda*m*mu*b[1]^2-12*l*m*mu^2*a[0]*b[1]+l*mu^2*rho*b[1]-4*lambda^2*sigma*w*b[1]-4*mu^2*w*b[1]) = 0, 6*l^2*(l*lambda^2*sigma*w*a[2]+lambda^2*m*sigma*a[2]^2+l*mu^2*w*a[2]+m*mu^2*a[2]^2-lambda*m*b[2]^2) = 0, 2*l^2*(l*lambda^2*sigma*w*a[1]+6*lambda^2*m*sigma*a[1]*a[2]+3*l*lambda*mu*w*b[2]+l*mu^2*w*a[1]+6*m*mu^2*a[1]*a[2]-6*lambda*m*b[1]*b[2]) = 0, -2*l^2*(5*l*lambda^2*mu*sigma*w*a[2]-l*lambda^2*sigma*w*b[1]+5*l*mu^3*w*a[2]-6*lambda^2*m*sigma*a[1]*b[2]-6*lambda^2*m*sigma*a[2]*b[1]-l*mu^2*w*b[1]-6*lambda*m*mu*b[2]^2-6*m*mu^2*a[1]*b[2]-6*m*mu^2*a[2]*b[1]) = 0, 6*l^2*b[2]*(l*w+2*m*a[2]) = 0}, {a[0], a[1], a[2], b[1], b[2]});
Warning, solutions may have been lost
{a[0] = 0, a[1] = 0, a[2] = 0, b[1] = 0, b[2] = 0}, 

   /       l rho - 4 w                                        \ 
  { a[0] = -----------, a[1] = 0, a[2] = 0, b[1] = 0, b[2] = 0 }
   \          6 l m                                           / 
 

;

= 2*1/10);
                               1
                               -
                               5
= -1;
                               -1

= 10;
                               10
= -25;
                              -25

C= 1;
                               1

= (1/12*sqrt6/sqrtbeta*lambda*mu);
                       1     (1/2)  (1/2)
                      --- I 6      2     
                       24                
= alpha/((10*sqrt-lambda*mu)*beta);
                             1  (1/2)
                           - - 5     
                             4       
A0]= (1/2*alpha/((10*sqrt-lambda*mu)*(1/12*beta*sqrt6/sqrtbeta*lambda*mu)));
                    1    (1/2)  (1/2)  (1/2)
                   -- I 5      6      2     
                    4                       
A1]= -(1/10*alpha/((1/12*beta*mu*sqrt6/sqrtbeta*lambda*mu));
                        1    (1/2)  (1/2)
                       -- I 6      2     
                        2                
A[2] := -(12*((112)*sqrt(6)/sqrt(beta*lambda*mu)))*lambda^2*alpha/(10*sqrt(-lambda*mu));
                    1     (1/2)  (1/2)  (1/2)
                   --- I 6      2      5     
                    20                       
H := ln(sqrt(lambda/(-mu))*tanh(sqrt(-lambda*mu)*(xi+C)));
              /1/2)     /1  (1/2         \\
              ln|- 5      tanh|- 5      ( 1)||
                \5            \5                //
xi := k*x-t*w;
                1     (1/2)  (1/2)     1    (1/2)
               --- I 6      2      x + t    
        2               4         
u[0] := A[0]+A[1]*exp(-H)+A[2]*exp(-H)*exp(-H);
  1    (1/2)  (1/2)  (1/2)
 -- I 5      6      2     
  4                       

                     1    (1/2)  (1/2)  (1/2)                
                     - I 6      2      5                     
                     2                                       
    - -------------------------------------------------------
         (1/2) / 1     (1/2)  (1/2)     1    (1/2)    \\
      tanh|- 5      |--- I 6      2      x + - t 5      + 1||
          \5        \ 24                     4             //

                      1    (1/2)  (1/2)  (1/2)                
                      - I 6      2      5                     
                      4                                       
    - --------------------------------------------------------
                                                             2
          (1/2) / 1     (1/2)  (1/2)     1    (1/2)    \\ 
      tanh|- 5      |--- I 6      2      x + - t 5      + 1|| 
               \ 24              4             // 

plot3d(Im(u[0]), x = -10 .. 10, t = -10 .. 10);

restart;
P := -lambda*exp(-Phi(xi))-mu*exp(Phi(xi));
            -lambda exp(-Phi(xi)) - mu exp(Phi(xi))
u[0] := A[0]+A[1]*exp(-Phi(xi))+A[2]*exp(-Phi(xi))*exp(-Phi(xi));
                                                       2
       A[0] + A[1] exp(-Phi(xi)) + A[2] (exp(-Phi(xi))) 
u[1] := diff(u[0], xi);
                / d          \              
          -A[1] |---- Phi(xi)| exp(-Phi(xi))
                \ dxi        /              

                                     2 / d          \
             - 2 A[2] (exp(-Phi(xi)))  |---- Phi(xi)|
                                       \ dxi        /
d[1] := -A[1]*P*exp(-Phi(xi))-2*A[2]*(exp(-Phi(xi)))^2*P;
-A[1] (-lambda exp(-Phi(xi)) - mu exp(Phi(xi))) exp(-Phi(xi)) - 2 

                      2                                          
  A[2] (exp(-Phi(xi)))  (-lambda exp(-Phi(xi)) - mu exp(Phi(xi)))
u[2] := diff(d[1], xi);
      /       / d          \              
-A[1] |lambda |---- Phi(xi)| exp(-Phi(xi))
      \       \ dxi        /              

        / d          \             \                       
   - mu |---- Phi(xi)| exp(Phi(xi))| exp(-Phi(xi)) + A[1] (
        \ dxi        /             /                       
                                         / d          \          
-lambda exp(-Phi(xi)) - mu exp(Phi(xi))) |---- Phi(xi)| exp(-Phi(
                                         \ dxi        /          

                               2                       
  xi)) + 4 A[2] (exp(-Phi(xi)))  (-lambda exp(-Phi(xi))

                      / d          \                         2 
   - mu exp(Phi(xi))) |---- Phi(xi)| - 2 A[2] (exp(-Phi(xi)))  
                      \ dxi        /                           

  /       / d          \              
  |lambda |---- Phi(xi)| exp(-Phi(xi))
  \       \ dxi        /              

        / d          \             \
   - mu |---- Phi(xi)| exp(Phi(xi))|
        \ dxi        /             /

d[2] := -A[1]*(lambda*P*exp(-Phi(xi))-mu*P*exp(Phi(xi)))*exp(-Phi(xi))+A[1]*(-lambda*exp(-Phi(xi))-mu*exp(Phi(xi)))*P*exp(-Phi(xi))+4*A[2]*(exp(-Phi(xi)))^2*(-lambda*exp(-Phi(xi))-mu*exp(Phi(xi)))*P-2*A[2]*(exp(-Phi(xi)))^2*(lambda*P*exp(-Phi(xi))-mu*P*exp(Phi(xi)));
-A[1] (lambda (-lambda exp(-Phi(xi)) - mu exp(Phi(xi))) exp(-Phi(

  xi))

   - mu (-lambda exp(-Phi(xi)) - mu exp(Phi(xi))) exp(Phi(xi))) 

  exp(-Phi(xi))

                                                   2                   
   + A[1] (-lambda exp(-Phi(xi)) - mu exp(Phi(xi)))  exp(-Phi(xi)) + 4 

                      2 
  A[2] (exp(-Phi(xi)))  

                                           2          
  (-lambda exp(-Phi(xi)) - mu exp(Phi(xi)))  - 2 A[2] 

                 2                               
  (exp(-Phi(xi)))  (lambda (-lambda exp(-Phi(xi))

   - mu exp(Phi(xi))) exp(-Phi(xi))

   - mu (-lambda exp(-Phi(xi)) - mu exp(Phi(xi))) exp(Phi(xi)))

collect(expand((2*k*k)*w*beta*d[2]-(2*alpha*k*k)*d[1]-2*w*u[0]+k*u[0]*u[0]), exp(Phi(xi)));
   2               2            2                 2              
4 k  w beta A[2] mu  - 2 alpha k  A[1] mu + k A[0]  - 2 w A[0] + 

       1       /        2                             2        
  ------------ \4 beta k  lambda mu w A[1] - 4 alpha k  mu A[2]
  exp(Phi(xi))                                                 

                             \          1        /         2 
   + 2 k A[0] A[1] - 2 w A[1]/ + --------------- \16 beta k  
                                               2             
                                 (exp(Phi(xi)))              

                              2                            
  lambda mu w A[2] - 2 alpha k  lambda A[1] + 2 k A[0] A[2]

           2           \          1        /        2       2    
   + k A[1]  - 2 w A[2]/ + --------------- \4 beta k  lambda  w A
                                         3                       
                           (exp(Phi(xi)))                        

                 2                            \
  [1] - 4 alpha k  lambda A[2] + 2 k A[1] A[2]/

              2       2                2
     12 beta k  lambda  w A[2] + k A[2] 
   + -----------------------------------
                             4          
               (exp(Phi(xi)))           

restart;
solve({12*beta*k^2*lambda^2*w*A[2]+k*A[2]^2, 4*beta*k^2*lambda^2*w*A[1]-4*alpha*k^2*lambda*A[2]+2*k*A[1]*A[2], 4*beta*k^2*mu^2*w*A[2]-2*alpha*k^2*mu*A[1]+k*A[0]^2-2*w*A[0], 4*beta*k^2*lambda*mu*w*A[1]-4*alpha*k^2*mu*A[2]+2*k*A[0]*A[1]-2*w*A[1], 16*beta*k^2*lambda*mu*w*A[2]-2*alpha*k^2*lambda*A[1]+2*k*A[0]*A[2]+k*A[1]^2-2*w*A[2]}, {k, w, A[0], A[1], A[2]});
{k = 0, w = 0, A[0] = A[0], A[1] = A[1], A[2] = A[2]}, 

  {k = k, w = w, A[0] = 0, A[1] = 0, A[2] = 0}, 

                                                     /
   /                     2 w                    \    |
  { k = k, w = w, A[0] = ---, A[1] = 0, A[2] = 0 }, < 
   \                      k                     /    |
                                                     \

            /                    2    \  
  k = RootOf\24 beta lambda mu _Z  - 1/, 

            /                2    \        
      RootOf\100 lambda mu _Z  + 1/ alpha  
  w = -----------------------------------, 
                     beta                  

                 /                2    \           
           RootOf\100 lambda mu _Z  + 1/ alpha     
  A[0] = ----------------------------------------, 
                      /                    2    \  
         2 beta RootOf\24 beta lambda mu _Z  - 1/  

                            alpha                                 
  A[1] = --------------------------------------------, A[2] = -12 
                          /                    2    \             
         10 beta mu RootOf\24 beta lambda mu _Z  - 1/             

        /                    2    \       2       /              
  RootOf\24 beta lambda mu _Z  - 1/ lambda  RootOf\100 lambda mu 

                \    /                                       
    2    \      |    |          /                    2    \  
  _Z  + 1/ alpha >, < k = RootOf\24 beta lambda mu _Z  + 1/, 
                |    |                                       
                /    \                                       

            /                2    \        
      RootOf\100 lambda mu _Z  + 1/ alpha  
  w = -----------------------------------, 
                     beta                  

                  /                2    \          
          3 RootOf\100 lambda mu _Z  + 1/ alpha    
  A[0] = ----------------------------------------, 
                      /                    2    \  
         2 beta RootOf\24 beta lambda mu _Z  + 1/  

                              alpha                              
  A[1] = - --------------------------------------------, A[2] = -
                            /                    2    \          
           10 beta mu RootOf\24 beta lambda mu _Z  + 1/          

           /                    2    \       2       /           
  12 RootOf\24 beta lambda mu _Z  + 1/ lambda  RootOf\100 lambda 

                   \ 
       2    \      | 
  mu _Z  + 1/ alpha >
                   | 
                   / 
set 1;
Error, missing operation
    Typesetting:-mambiguous(Typesetting:-mambiguous(set 1, 

      Typesetting:-merror("missing operation")))
{k = RootOf(24*_Z^2*beta*lambda*mu-1), w = RootOf(100*_Z^2*lambda*mu+1)*alpha/beta, A[0] = (1/2)*RootOf(100*_Z^2*lambda*mu+1)*alpha/(beta*RootOf(24*_Z^2*beta*lambda*mu-1)), A[1] = (1/10)*alpha/(beta*mu*RootOf(24*_Z^2*beta*lambda*mu-1)), A[2] = -12*RootOf(24*_Z^2*beta*lambda*mu-1)*lambda^2*RootOf(100*_Z^2*lambda*mu+1)*alpha};
 /                                       
 |          /                    2    \  
< k = RootOf\24 beta lambda mu _Z  - 1/, 
 |                                       
 \                                       

            /                2    \        
      RootOf\100 lambda mu _Z  + 1/ alpha  
  w = -----------------------------------, 
                     beta                  

                 /                2    \           
           RootOf\100 lambda mu _Z  + 1/ alpha     
  A[0] = ----------------------------------------, 
                      /                    2    \  
         2 beta RootOf\24 beta lambda mu _Z  - 1/  

                            alpha                                 
  A[1] = --------------------------------------------, A[2] = -12 
                          /                    2    \             
         10 beta mu RootOf\24 beta lambda mu _Z  - 1/             

        /                    2    \       2       /              
  RootOf\24 beta lambda mu _Z  - 1/ lambda  RootOf\100 lambda mu 

                \ 
    2    \      | 
  _Z  + 1/ alpha >
                | 
                / 
restart;
restart;
solve({24*Z^2*beta*lambda*mu-1}, {Z});
               /              (1/2)         \   
               |             6              |   
              < Z = ------------------------ >, 
               |                       (1/2)|   
               \    12 (beta lambda mu)     /   

                 /                (1/2)         \ 
                 |               6              | 
                < Z = - ------------------------ >
                 |                         (1/2)| 
                 \      12 (beta lambda mu)     / 
solve({100*Z^2*lambda*mu+1}, {Z});
   /               1          \    /             1          \ 
   |Z = - --------------------| ,  |Z = --------------------| 
  <                      (1/2) >  <                    (1/2) >
   |      10 (-lambda mu)     |    |    10 (-lambda mu)     | 
   \                          /    \                        / 
restart;
k := (1/12)*sqrt(6)/sqrt(beta*lambda*mu);
                              (1/2)         
                             6              
                    ------------------------
                                       (1/2)
                    12 (beta lambda mu)     
w := -alpha/((10*sqrt(-lambda*mu))*beta);
                              alpha          
                  - -------------------------
                                   (1/2)     
                    10 (-lambda mu)      beta
A[0] := 1/2*(-alpha/((10*sqrt(-lambda*mu))*((1/12)*beta*sqrt(6)/sqrt(beta*lambda*mu))));
                       (1/2)                 (1/2)
                alpha 6      (beta lambda mu)     
              - ----------------------------------
                                   (1/2)          
                    10 (-lambda mu)      beta     
A[1] := (1/10)*alpha/((1/12)*beta*mu*sqrt(6)/sqrt(beta*lambda*mu));
                      (1/2)                 (1/2)
               alpha 6      (beta lambda mu)     
               ----------------------------------
                           5 beta mu             
A[2] := (12*(1/12))*sqrt(6)*lambda^2*alpha/(sqrt(beta*lambda*mu)*(10*sqrt(-lambda*mu)));
                       (1/2)       2                 
                      6      lambda  alpha           
           ------------------------------------------
                              (1/2)             (1/2)
           10 (beta lambda mu)      (-lambda mu)     
lambda := 3;
                               3
mu := 2;
                               2
H := -ln(sqrt(lambda/mu)*tan(sqrt(lambda*mu)*(xi+C)));
                  /1  (1/2)    / (1/2)         \\
               -ln|- 6      tan\6      (xi + C)/|
                  \2                            /
u[0] := A[0]+A[1]*exp(-H)+A[2]*exp(-H)*exp(-H);
               (1/2)            (1/2)    / (1/2)         \
     alpha (-6)        3 alpha 6      tan\6      (xi + C)/
     --------------- + -----------------------------------
             (1/2)                       (1/2)            
      10 beta                     10 beta                 

                                                2
                      (1/2)    / (1/2)         \ 
          9 alpha (-6)      tan\6      (xi + C)/ 
        - ---------------------------------------
                              (1/2)              
                       40 beta                   
f := diff(u[0], xi);
         /                        2\                         
         |       / (1/2)         \ |                /        
 9 alpha \1 + tan\6      (xi + C)/ /        1       |        
 ----------------------------------- - ------------ \9 alpha 
                   (1/2)                      (1/2)          
             5 beta                    20 beta               

                                  /                        2\ 
       (1/2)    / (1/2)         \ |       / (1/2)         \ | 
   (-6)      tan\6      (xi + C)/ \1 + tan\6      (xi + C)/ / 

         \
    (1/2)|
   6     /
S := diff(f, xi);
                              /                        2\       
            / (1/2)         \ |       / (1/2)         \ |  (1/2)
18 alpha tan\6      (xi + C)/ \1 + tan\6      (xi + C)/ / 6     
----------------------------------------------------------------
                                (1/2)                           
                          5 beta                                

                                                   2   
                        /                        2\    
                  (1/2) |       / (1/2)         \ |    
     27 alpha (-6)      \1 + tan\6      (xi + C)/ /    
   - ----------------------------------------------- - 
                             (1/2)                     
                      10 beta                          

              /                                       2 / 
       1      |             (1/2)    / (1/2)         \  | 
  ----------- \27 alpha (-6)      tan\6      (xi + C)/  \1
        (1/2)                                             
  5 beta                                                  

                         2\\
        / (1/2)         \ ||
   + tan\6      (xi + C)/ //

eq := (2*k*k)*w*beta*S-(2*alpha*k*k)*f-2*w*u[0]+k*u[0]*u[0];
          /                /
          |                |
          |                |
    1     |          (1/2) |
--------- |alpha (-6)      |
4320 beta |                |
          \                \

                                /                        2\       
              / (1/2)         \ |       / (1/2)         \ |  (1/2)
  18 alpha tan\6      (xi + C)/ \1 + tan\6      (xi + C)/ / 6     
  ----------------------------------------------------------------
                                  (1/2)                           
                            5 beta                                

                                                   2   
                        /                        2\    
                  (1/2) |       / (1/2)         \ |    
     27 alpha (-6)      \1 + tan\6      (xi + C)/ /    
   - ----------------------------------------------- - 
                             (1/2)                     
                      10 beta                          

              /                                       2 / 
       1      |             (1/2)    / (1/2)         \  | 
  ----------- \27 alpha (-6)      tan\6      (xi + C)/  \1
        (1/2)                                             
  5 beta                                                  

                            \\                   
                            ||           /      /
                         2\\||           |      |
        / (1/2)         \ ||||      1    |      |
   + tan\6      (xi + C)/ //|| - ------- |alpha |
                            ||   72 beta |      |
                            //           \      \

          /                        2\                         
          |       / (1/2)         \ |                /        
  9 alpha \1 + tan\6      (xi + C)/ /        1       |        
  ----------------------------------- - ------------ \9 alpha 
                    (1/2)                      (1/2)          
              5 beta                    20 beta               

                                 /                        2\ 
      (1/2)    / (1/2)         \ |       / (1/2)         \ | 
  (-6)      tan\6      (xi + C)/ \1 + tan\6      (xi + C)/ / 

         \\           /                /               
        \||           |                |          (1/2)
   (1/2)|||      1    |          (1/2) |alpha (-6)     
  6     /|| - ------- |alpha (-6)      |---------------
         ||   30 beta |                |        (1/2)  
         //           \                \ 10 beta       

              (1/2)    / (1/2)         \
     3 alpha 6      tan\6      (xi + C)/
   + -----------------------------------
                       (1/2)            
                10 beta                 

                                           2\\                /
                 (1/2)    / (1/2)         \ ||                |
     9 alpha (-6)      tan\6      (xi + C)/ ||        1       |
   - ---------------------------------------|| + ------------ |
                         (1/2)              ||          (1/2) |
                  40 beta                   //   12 beta      \

  /                                                     
  |          (1/2)            (1/2)    / (1/2)         \
  |alpha (-6)        3 alpha 6      tan\6      (xi + C)/
  |--------------- + -----------------------------------
  |        (1/2)                       (1/2)            
  \ 10 beta                     10 beta                 

                                           2\  \
                 (1/2)    / (1/2)         \ |  |
     9 alpha (-6)      tan\6      (xi + C)/ |  |
   - ---------------------------------------|^2|
                         (1/2)              |  |
                  40 beta                   /  /
value(%);
          /                /
          |                |
          |                |
    1     |          (1/2) |
--------- |alpha (-6)      |
4320 beta |                |
          \                \

                                /                        2\       
              / (1/2)         \ |       / (1/2)         \ |  (1/2)
  18 alpha tan\6      (xi + C)/ \1 + tan\6      (xi + C)/ / 6     
  ----------------------------------------------------------------
                                  (1/2)                           
                            5 beta                                

                                                   2   
                        /                        2\    
                  (1/2) |       / (1/2)         \ |    
     27 alpha (-6)      \1 + tan\6      (xi + C)/ /    
   - ----------------------------------------------- - 
                             (1/2)                     
                      10 beta                          

              /                                       2 / 
       1      |             (1/2)    / (1/2)         \  | 
  ----------- \27 alpha (-6)      tan\6      (xi + C)/  \1
        (1/2)                                             
  5 beta                                                  

                            \\                   
                            ||           /      /
                         2\\||           |      |
        / (1/2)         \ ||||      1    |      |
   + tan\6      (xi + C)/ //|| - ------- |alpha |
                            ||   72 beta |      |
                            //           \      \

          /                        2\                         
          |       / (1/2)         \ |                /        
  9 alpha \1 + tan\6      (xi + C)/ /        1       |        
  ----------------------------------- - ------------ \9 alpha 
                    (1/2)                      (1/2)          
              5 beta                    20 beta               

                                 /                        2\ 
      (1/2)    / (1/2)         \ |       / (1/2)         \ | 
  (-6)      tan\6      (xi + C)/ \1 + tan\6      (xi + C)/ / 

         \\           /                /               
        \||           |                |          (1/2)
   (1/2)|||      1    |          (1/2) |alpha (-6)     
  6     /|| - ------- |alpha (-6)      |---------------
         ||   30 beta |                |        (1/2)  
         //           \                \ 10 beta       

              (1/2)    / (1/2)         \
     3 alpha 6      tan\6      (xi + C)/
   + -----------------------------------
                       (1/2)            
                10 beta                 

                                           2\\                /
                 (1/2)    / (1/2)         \ ||                |
     9 alpha (-6)      tan\6      (xi + C)/ ||        1       |
   - ---------------------------------------|| + ------------ |
                         (1/2)              ||          (1/2) |
                  40 beta                   //   12 beta      \

  /                                                     
  |          (1/2)            (1/2)    / (1/2)         \
  |alpha (-6)        3 alpha 6      tan\6      (xi + C)/
  |--------------- + -----------------------------------
  |        (1/2)                       (1/2)            
  \ 10 beta                     10 beta                 

                                           2\  \
                 (1/2)    / (1/2)         \ |  |
     9 alpha (-6)      tan\6      (xi + C)/ |  |
   - ---------------------------------------|^2|
                         (1/2)              |  |
                  40 beta                   /  /
simplify(%);
                                    /       /                   
                 1                  |     2 |        / (1/2)    
----------------------------------- \alpha  \24 I sin\6      (xi
                                  4                             
        (3/2)    / (1/2)         \                              
640 beta      cos\6      (xi + C)/                              

                             3                          4
       \    / (1/2)         \          / (1/2)         \ 
   + C)/ cos\6      (xi + C)/  - 21 cos\6      (xi + C)/ 

             / (1/2)         \    / (1/2)         \
   - 16 I sin\6      (xi + C)/ cos\6      (xi + C)/

                            2    \\
           / (1/2)         \     ||
   + 26 cos\6      (xi + C)/  - 9//
 

restart;
T := mu+lambda*H(xi)+(v-1)*H(xi)^2;
                                                2
               mu + lambda H(xi) + (v - 1) H(xi) 
u[0] := a[0]+a[1]*(d+H(xi))+a[2]/(d+H(xi))+a[3]*(d+H(xi))^2+a[4]/(d+H(xi))^2;
                                a[2]                      2
    a[0] + a[1] (d + H(xi)) + --------- + a[3] (d + H(xi)) 
                              d + H(xi)                    

             a[4]    
       + ------------
                    2
         (d + H(xi)) 
diff(u[0], xi);
                            / d        \
                       a[2] |---- H(xi)|
        / d        \        \ dxi      /
   a[1] |---- H(xi)| - -----------------
        \ dxi      /                2   
                         (d + H(xi))    

                                                 / d        \
                                          2 a[4] |---- H(xi)|
                           / d        \          \ dxi      /
      + 2 a[3] (d + H(xi)) |---- H(xi)| - -------------------
                           \ dxi      /                 3    
                                             (d + H(xi))     
collect(%, diff(H(xi), xi));
/           a[2]                               2 a[4]   \ / d       
|a[1] - ------------ + 2 a[3] (d + H(xi)) - ------------| |---- H(xi
|                  2                                   3| \ dxi     
\       (d + H(xi))                         (d + H(xi)) /           

   \
  )|
   /
d[1] := (a[1]-a[2]/(d+H(xi))^2+2*a[3]*(d+H(xi))-2*a[4]/(d+H(xi))^3)*T;
 /           a[2]                               2 a[4]   \ /  
 |a[1] - ------------ + 2 a[3] (d + H(xi)) - ------------| \mu
 |                  2                                   3|    
 \       (d + H(xi))                         (d + H(xi)) /    

                                  2\
    + lambda H(xi) + (v - 1) H(xi) /
diff(d[1], xi);
/       / d        \                                / d        \\ 
|2 a[2] |---- H(xi)|                         6 a[4] |---- H(xi)|| 
|       \ dxi      /          / d        \          \ dxi      /| 
|------------------- + 2 a[3] |---- H(xi)| + -------------------| 
|              3              \ dxi      /                 4    | 
\   (d + H(xi))                                 (d + H(xi))     / 

  /                                 2\   /           a[2]    
  \mu + lambda H(xi) + (v - 1) H(xi) / + |a[1] - ------------
                                         |                  2
                                         \       (d + H(xi)) 

                             2 a[4]   \ /       / d        \
   + 2 a[3] (d + H(xi)) - ------------| |lambda |---- H(xi)|
                                     3| \       \ dxi      /
                          (d + H(xi)) /                     

                     / d        \\
   + 2 (v - 1) H(xi) |---- H(xi)||
                     \ dxi      //
collect(%, diff(H(xi), xi));
//   2 a[2]                  6 a[4]   \ /                 
||------------ + 2 a[3] + ------------| \mu + lambda H(xi)
||           3                       4|                   
\\(d + H(xi))             (d + H(xi)) /                   

                  2\   /           a[2]                         
   + (v - 1) H(xi) / + |a[1] - ------------ + 2 a[3] (d + H(xi))
                       |                  2                     
                       \       (d + H(xi))                      

        2 a[4]   \                           \ / d        \
   - ------------| (lambda + 2 (v - 1) H(xi))| |---- H(xi)|
                3|                           | \ dxi      /
     (d + H(xi)) /                           /             
d[2] := ((2*a[2]/(d+H(xi))^3+2*a[3]+6*a[4]/(d+H(xi))^4)*(mu+lambda*H(xi)+(v-1)*H(xi)^2)+(a[1]-a[2]/(d+H(xi))^2+2*a[3]*(d+H(xi))-2*a[4]/(d+H(xi))^3)*(lambda+(2*(v-1))*H(xi)))*T;
//   2 a[2]                  6 a[4]   \ /                 
||------------ + 2 a[3] + ------------| \mu + lambda H(xi)
||           3                       4|                   
\\(d + H(xi))             (d + H(xi)) /                   

                  2\   /           a[2]                         
   + (v - 1) H(xi) / + |a[1] - ------------ + 2 a[3] (d + H(xi))
                       |                  2                     
                       \       (d + H(xi))                      

        2 a[4]   \                           \ /                 
   - ------------| (lambda + 2 (v - 1) H(xi))| \mu + lambda H(xi)
                3|                           |                   
     (d + H(xi)) /                           /                   

                  2\
   + (v - 1) H(xi) /

eq := (2*k*k)*w*beta*d[2]-(2*alpha*k*k)*d[1]-2*w*u[0]+k*u[0]*u[0];
   2        //   2 a[2]                  6 a[4]   \ /  
2 k  w beta ||------------ + 2 a[3] + ------------| \mu
            ||           3                       4|    
            \\(d + H(xi))             (d + H(xi)) /    

                                 2\   /           a[2]    
   + lambda H(xi) + (v - 1) H(xi) / + |a[1] - ------------
                                      |                  2
                                      \       (d + H(xi)) 

                             2 a[4]   \                          
   + 2 a[3] (d + H(xi)) - ------------| (lambda + 2 (v - 1) H(xi)
                                     3|                          
                          (d + H(xi)) /                          

   \ /                                 2\            2 /    
  )| \mu + lambda H(xi) + (v - 1) H(xi) / - 2 alpha k  |a[1]
   |                                                   |    
   /                                                   \    

         a[2]                               2 a[4]   \ /  
   - ------------ + 2 a[3] (d + H(xi)) - ------------| \mu
                2                                   3|    
     (d + H(xi))                         (d + H(xi)) /    

                                 2\       /    
   + lambda H(xi) + (v - 1) H(xi) / - 2 w |a[0]
                                          |    
                                          \    

                          a[2]                      2
   + a[1] (d + H(xi)) + --------- + a[3] (d + H(xi)) 
                        d + H(xi)                    

         a[4]    \     /                            a[2]   
   + ------------| + k |a[0] + a[1] (d + H(xi)) + ---------
                2|     |                          d + H(xi)
     (d + H(xi)) /     \                                   

                     2       a[4]    \  
   + a[3] (d + H(xi))  + ------------|^2
                                    2|  
                         (d + H(xi)) /  
value(%);
   2        //   2 a[2]                  6 a[4]   \ /  
2 k  w beta ||------------ + 2 a[3] + ------------| \mu
            ||           3                       4|    
            \\(d + H(xi))             (d + H(xi)) /    

                                 2\   /           a[2]    
   + lambda H(xi) + (v - 1) H(xi) / + |a[1] - ------------
                                      |                  2
                                      \       (d + H(xi)) 

                             2 a[4]   \                          
   + 2 a[3] (d + H(xi)) - ------------| (lambda + 2 (v - 1) H(xi)
                                     3|                          
                          (d + H(xi)) /                          

   \ /                                 2\            2 /    
  )| \mu + lambda H(xi) + (v - 1) H(xi) / - 2 alpha k  |a[1]
   |                                                   |    
   /                                                   \    

         a[2]                               2 a[4]   \ /  
   - ------------ + 2 a[3] (d + H(xi)) - ------------| \mu
                2                                   3|    
     (d + H(xi))                         (d + H(xi)) /    

                                 2\       /    
   + lambda H(xi) + (v - 1) H(xi) / - 2 w |a[0]
                                          |    
                                          \    

                          a[2]                      2
   + a[1] (d + H(xi)) + --------- + a[3] (d + H(xi)) 
                        d + H(xi)                    

         a[4]    \     /                            a[2]   
   + ------------| + k |a[0] + a[1] (d + H(xi)) + ---------
                2|     |                          d + H(xi)
     (d + H(xi)) /     \                                   

                     2       a[4]    \  
   + a[3] (d + H(xi))  + ------------|^2
                                    2|  
                         (d + H(xi)) /  
expr := simplify(%);
Error, (in simplify) too many levels of recursion
temp := algsubs(d+H(xi) = freeze(d+H(xi)), numer(expr));
                              expr
thaw(collect(temp, freeze(d+H(xi)))/denom(expr));
                              expr
collect(%, H(xi));
 

restart;
lambda := 1;
                               1
mu := 1;
                               1
v := 2;
                               2
r := lambda*(v-1);
                               1
g := mu*(v-1);
                               1
a[2] := 0;
                               0

omega := -(1/2)*alpha*l[1]*l[2]*lambda^2+2*alpha*l[1]*l[2]*mu*v-2*alpha*l[1]*l[2]*mu-alpha*h[1]*h[2];
              3                                  
              - alpha l[1] l[2] - alpha h[1] h[2]
              2                                  
a[0] := -(1/2)*(2*d*v-2*d-lambda)*alpha*l[1]*l[2]/(h[1]*beta*(sqrt(h[1]*beta*alpha*l[1]*l[2])/(h[1]*beta)));
                    (2 d - 1) alpha l[1] l[2]     
              - ----------------------------------
                                             (1/2)
                2 (h[1] beta alpha l[1] l[2])     
a[1] := sqrt(h[1]*beta*alpha*l[1]*l[2])*(v-1)/(beta*h[1]);
                                           (1/2)
                (h[1] beta alpha l[1] l[2])     
                --------------------------------
                           beta h[1]            

Omega := lambda^2-4*mu*v+4*mu;
                               -3
H := (-lambda+sqrt(-Omega)*{tan(sqrt(-Omega)*xi)+sec(sqrt(-Omega)*xi)})/(2*(v-1));
         1   1  (1/2)  /   / (1/2)   \      / (1/2)   \\ 
       - - + - 3      { tan\3      xi/ + sec\3      xi/ }
         2   2         \                               / 

u := a[0]+a[1]*(d+H)+a[2]/(d+H);
            (2 d - 1) alpha l[1] l[2]            1     /
      - ---------------------------------- + --------- |
                                     (1/2)   beta h[1] \
        2 (h[1] beta alpha l[1] l[2])                   

                                   (1/2) /    1
        (h[1] beta alpha l[1] l[2])      |d - -
                                         \    2

           1  (1/2)  /   / (1/2)   \      / (1/2)   \\ \\
         + - 3      { tan\3      xi/ + sec\3      xi/ }||
           2         \                               / //
f := diff(u, xi);
               /                                         // 
        1      |                           (1/2)  (1/2) { | 
   ----------- \(h[1] beta alpha l[1] l[2])      3       \\1
   2 beta h[1]                                              

                      2\       
           / (1/2)   \ |  (1/2)
      + tan\3      xi/ / 3     

                                            \ \
           / (1/2)   \    / (1/2)   \  (1/2) }|
      + sec\3      xi/ tan\3      xi/ 3     / /
S := diff(f, xi);
             /                                         /      
      1      |                           (1/2)  (1/2) {      /
 ----------- \(h[1] beta alpha l[1] l[2])      3       \6 tan\
 2 beta h[1]                                                  

              /                  2\
    (1/2)   \ |       / (1/2)   \ |
   3      xi/ \1 + tan\3      xi/ /

                                     2
           / (1/2)   \    / (1/2)   \ 
    + 3 sec\3      xi/ tan\3      xi/ 

                       /                  2\\ \
           / (1/2)   \ |       / (1/2)   \ | }|
    + 3 sec\3      xi/ \1 + tan\3      xi/ // /

eq := -(alpha*h[1]*h[2]+omega)*u-(2*beta*h[1]*u*u)*u+alpha*l[1]*l[2]*S;
  3                 /      (2 d - 1) alpha l[1] l[2]        
- - alpha l[1] l[2] |- ---------------------------------- + 
  2                 |                               (1/2)   
                    \  2 (h[1] beta alpha l[1] l[2])        

      1     /                           (1/2) /    1
  --------- |(h[1] beta alpha l[1] l[2])      |d - -
  beta h[1] \                                 \    2

     1  (1/2)  /   / (1/2)   \      / (1/2)   \\ \\\             
   + - 3      { tan\3      xi/ + sec\3      xi/ }||| - 2 beta h[1
     2         \                               / //|             
                                                   /             

    /      (2 d - 1) alpha l[1] l[2]            1     /
  ] |- ---------------------------------- + --------- |
    |                               (1/2)   beta h[1] \
    \  2 (h[1] beta alpha l[1] l[2])                   

                             (1/2) /    1
  (h[1] beta alpha l[1] l[2])      |d - -
                                   \    2

     1  (1/2)  /   / (1/2)   \      / (1/2)   \\ \\\     
   + - 3      { tan\3      xi/ + sec\3      xi/ }|||^3 + 
     2         \                               / //|     
                                                   /     

              /                                                 
       1      |                                           (1/2) 
  ----------- \alpha l[1] l[2] (h[1] beta alpha l[1] l[2])      
  2 beta h[1]                                                   

          /                 /                  2\
   (1/2) {      / (1/2)   \ |       / (1/2)   \ |
  3       \6 tan\3      xi/ \1 + tan\3      xi/ /

                                    2
          / (1/2)   \    / (1/2)   \ 
   + 3 sec\3      xi/ tan\3      xi/ 

                      /                  2\\ \
          / (1/2)   \ |       / (1/2)   \ | }|
   + 3 sec\3      xi/ \1 + tan\3      xi/ // /
value(%);
  3                 /      (2 d - 1) alpha l[1] l[2]        
- - alpha l[1] l[2] |- ---------------------------------- + 
  2                 |                               (1/2)   
                    \  2 (h[1] beta alpha l[1] l[2])        

      1     /                           (1/2) /    1
  --------- |(h[1] beta alpha l[1] l[2])      |d - -
  beta h[1] \                                 \    2

     1  (1/2)  /   / (1/2)   \      / (1/2)   \\ \\\             
   + - 3      { tan\3      xi/ + sec\3      xi/ }||| - 2 beta h[1
     2         \                               / //|             
                                                   /             

    /      (2 d - 1) alpha l[1] l[2]            1     /
  ] |- ---------------------------------- + --------- |
    |                               (1/2)   beta h[1] \
    \  2 (h[1] beta alpha l[1] l[2])                   

                             (1/2) /    1
  (h[1] beta alpha l[1] l[2])      |d - -
                                   \    2

     1  (1/2)  /   / (1/2)   \      / (1/2)   \\ \\\     
   + - 3      { tan\3      xi/ + sec\3      xi/ }|||^3 + 
     2         \                               / //|     
                                                   /     

              /                                                 
       1      |                                           (1/2) 
  ----------- \alpha l[1] l[2] (h[1] beta alpha l[1] l[2])      
  2 beta h[1]                                                   

          /                 /                  2\
   (1/2) {      / (1/2)   \ |       / (1/2)   \ |
  3       \6 tan\3      xi/ \1 + tan\3      xi/ /

                                    2
          / (1/2)   \    / (1/2)   \ 
   + 3 sec\3      xi/ tan\3      xi/ 

                      /                  2\\ \
          / (1/2)   \ |       / (1/2)   \ | }|
   + 3 sec\3      xi/ \1 + tan\3      xi/ // /
simplify(%);
Error, (in simplify/power) invalid input: ln expects its 1st argument, x, to be of type algebraic, but received {(sin(3^(1/2)*xi)+1)/cos(3^(1/2)*xi)}