2012-03-08 Stan Shebs <stan@codesourcery.com>
[deliverable/binutils-gdb.git] / gdb / gdbserver / i387-fp.c
index 19a9929debccc059654d0ebc537eef913d204a68..d2543b21327ee8d0ef0c5dfbea42e5e3196dae96 100644 (file)
@@ -1,12 +1,11 @@
 /* i387-specific utility functions, for the remote server for GDB.
-   Copyright 2000, 2001, 2002
-   Free Software Foundation, Inc.
+   Copyright (C) 2000-2013 Free Software Foundation, Inc.
 
    This file is part of GDB.
 
    This program is free software; you can redistribute it and/or modify
    it under the terms of the GNU General Public License as published by
-   the Free Software Foundation; either version 2 of the License, or
+   the Free Software Foundation; either version 3 of the License, or
    (at your option) any later version.
 
    This program is distributed in the hope that it will be useful,
    GNU General Public License for more details.
 
    You should have received a copy of the GNU General Public License
-   along with this program; if not, write to the Free Software
-   Foundation, Inc., 59 Temple Place - Suite 330,
-   Boston, MA 02111-1307, USA.  */
+   along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
 
 #include "server.h"
 #include "i387-fp.h"
+#include "i386-xstate.h"
 
 int num_xmm_registers = 8;
 
@@ -33,17 +31,21 @@ int num_xmm_registers = 8;
 struct i387_fsave {
   /* All these are only sixteen bits, plus padding, except for fop (which
      is only eleven bits), and fooff / fioff (which are 32 bits each).  */
-  unsigned int fctrl;
-  unsigned int fstat;
-  unsigned int ftag;
+  unsigned short fctrl;
+  unsigned short pad1;
+  unsigned short fstat;
+  unsigned short pad2;
+  unsigned short ftag;
+  unsigned short pad3;
   unsigned int fioff;
   unsigned short fiseg;
   unsigned short fop;
   unsigned int fooff;
-  unsigned int foseg;
+  unsigned short foseg;
+  unsigned short pad4;
 
   /* Space for eight 80-bit FP values.  */
-  char st_space[80];
+  unsigned char st_space[80];
 };
 
 struct i387_fxsave {
@@ -54,23 +56,64 @@ struct i387_fxsave {
   unsigned short ftag;
   unsigned short fop;
   unsigned int fioff;
-  unsigned int fiseg;
+  unsigned short fiseg;
+  unsigned short pad1;
   unsigned int fooff;
-  unsigned int foseg;
+  unsigned short foseg;
+  unsigned short pad12;
 
   unsigned int mxcsr;
+  unsigned int pad3;
+
+  /* Space for eight 80-bit FP values in 128-bit spaces.  */
+  unsigned char st_space[128];
+
+  /* Space for eight 128-bit XMM values, or 16 on x86-64.  */
+  unsigned char xmm_space[256];
+};
+
+struct i387_xsave {
+  /* All these are only sixteen bits, plus padding, except for fop (which
+     is only eleven bits), and fooff / fioff (which are 32 bits each).  */
+  unsigned short fctrl;
+  unsigned short fstat;
+  unsigned short ftag;
+  unsigned short fop;
+  unsigned int fioff;
+  unsigned short fiseg;
+  unsigned short pad1;
+  unsigned int fooff;
+  unsigned short foseg;
+  unsigned short pad12;
 
-  unsigned int _pad1;
+  unsigned int mxcsr;
+  unsigned int mxcsr_mask;
 
   /* Space for eight 80-bit FP values in 128-bit spaces.  */
-  char st_space[128];
+  unsigned char st_space[128];
 
   /* Space for eight 128-bit XMM values, or 16 on x86-64.  */
-  char xmm_space[256];
+  unsigned char xmm_space[256];
+
+  unsigned char reserved1[48];
+
+  /* The extended control register 0 (the XFEATURE_ENABLED_MASK
+     register).  */
+  unsigned long long xcr0;
+
+  unsigned char reserved2[40];
+
+  /* The XSTATE_BV bit vector.  */
+  unsigned long long xstate_bv;
+
+  unsigned char reserved3[56];
+
+  /* Space for eight upper 128-bit YMM values, or 16 on x86-64.  */
+  unsigned char ymmh_space[256];
 };
 
 void
-i387_cache_to_fsave (void *buf)
+i387_cache_to_fsave (struct regcache *regcache, void *buf)
 {
   struct i387_fsave *fp = (struct i387_fsave *) buf;
   int i;
@@ -78,38 +121,39 @@ i387_cache_to_fsave (void *buf)
   unsigned long val, val2;
 
   for (i = 0; i < 8; i++)
-    collect_register (i + st0_regnum, ((char *) &fp->st_space[0]) + i * 10);
+    collect_register (regcache, i + st0_regnum,
+                     ((char *) &fp->st_space[0]) + i * 10);
 
-  collect_register_by_name ("fioff", &fp->fioff);
-  collect_register_by_name ("fooff", &fp->fooff);
+  collect_register_by_name (regcache, "fioff", &fp->fioff);
+  collect_register_by_name (regcache, "fooff", &fp->fooff);
   
   /* This one's 11 bits... */
-  collect_register_by_name ("fop", &val2);
+  collect_register_by_name (regcache, "fop", &val2);
   fp->fop = (val2 & 0x7FF) | (fp->fop & 0xF800);
 
   /* Some registers are 16-bit.  */
-  collect_register_by_name ("fctrl", &val);
-  *(unsigned short *) &fp->fctrl = val;
+  collect_register_by_name (regcache, "fctrl", &val);
+  fp->fctrl = val;
 
-  collect_register_by_name ("fstat", &val);
+  collect_register_by_name (regcache, "fstat", &val);
   val &= 0xFFFF;
-  *(unsigned short *) &fp->fstat = val;
+  fp->fstat = val;
 
-  collect_register_by_name ("ftag", &val);
+  collect_register_by_name (regcache, "ftag", &val);
   val &= 0xFFFF;
-  *(unsigned short *) &fp->ftag = val;
+  fp->ftag = val;
 
-  collect_register_by_name ("fiseg", &val);
+  collect_register_by_name (regcache, "fiseg", &val);
   val &= 0xFFFF;
-  *(unsigned short *) &fp->fiseg = val;
+  fp->fiseg = val;
 
-  collect_register_by_name ("foseg", &val);
+  collect_register_by_name (regcache, "foseg", &val);
   val &= 0xFFFF;
-  *(unsigned short *) &fp->foseg = val;
+  fp->foseg = val;
 }
 
 void
-i387_fsave_to_cache (const void *buf)
+i387_fsave_to_cache (struct regcache *regcache, const void *buf)
 {
   struct i387_fsave *fp = (struct i387_fsave *) buf;
   int i;
@@ -117,33 +161,35 @@ i387_fsave_to_cache (const void *buf)
   unsigned long val;
 
   for (i = 0; i < 8; i++)
-    supply_register (i + st0_regnum, ((char *) &fp->st_space[0]) + i * 10);
+    supply_register (regcache, i + st0_regnum,
+                    ((char *) &fp->st_space[0]) + i * 10);
+
+  supply_register_by_name (regcache, "fioff", &fp->fioff);
+  supply_register_by_name (regcache, "fooff", &fp->fooff);
 
-  supply_register_by_name ("fioff", &fp->fioff);
-  supply_register_by_name ("fooff", &fp->fooff);
-  
   /* Some registers are 16-bit.  */
   val = fp->fctrl & 0xFFFF;
-  supply_register_by_name ("fctrl", &val);
+  supply_register_by_name (regcache, "fctrl", &val);
 
   val = fp->fstat & 0xFFFF;
-  supply_register_by_name ("fstat", &val);
+  supply_register_by_name (regcache, "fstat", &val);
 
   val = fp->ftag & 0xFFFF;
-  supply_register_by_name ("ftag", &val);
+  supply_register_by_name (regcache, "ftag", &val);
 
   val = fp->fiseg & 0xFFFF;
-  supply_register_by_name ("fiseg", &val);
+  supply_register_by_name (regcache, "fiseg", &val);
 
   val = fp->foseg & 0xFFFF;
-  supply_register_by_name ("foseg", &val);
+  supply_register_by_name (regcache, "foseg", &val);
 
+  /* fop has only 11 valid bits.  */
   val = (fp->fop) & 0x7FF;
-  supply_register_by_name ("fop", &val);
+  supply_register_by_name (regcache, "fop", &val);
 }
 
 void
-i387_cache_to_fxsave (void *buf)
+i387_cache_to_fxsave (struct regcache *regcache, void *buf)
 {
   struct i387_fxsave *fp = (struct i387_fxsave *) buf;
   int i;
@@ -152,29 +198,31 @@ i387_cache_to_fxsave (void *buf)
   unsigned long val, val2;
 
   for (i = 0; i < 8; i++)
-    collect_register (i + st0_regnum, ((char *) &fp->st_space[0]) + i * 16);
+    collect_register (regcache, i + st0_regnum,
+                     ((char *) &fp->st_space[0]) + i * 16);
   for (i = 0; i < num_xmm_registers; i++)
-    collect_register (i + xmm0_regnum, ((char *) &fp->xmm_space[0]) + i * 16);
+    collect_register (regcache, i + xmm0_regnum,
+                     ((char *) &fp->xmm_space[0]) + i * 16);
+
+  collect_register_by_name (regcache, "fioff", &fp->fioff);
+  collect_register_by_name (regcache, "fooff", &fp->fooff);
+  collect_register_by_name (regcache, "mxcsr", &fp->mxcsr);
 
-  collect_register_by_name ("fioff", &fp->fioff);
-  collect_register_by_name ("fooff", &fp->fooff);
-  collect_register_by_name ("mxcsr", &fp->mxcsr);
-  
   /* This one's 11 bits... */
-  collect_register_by_name ("fop", &val2);
+  collect_register_by_name (regcache, "fop", &val2);
   fp->fop = (val2 & 0x7FF) | (fp->fop & 0xF800);
 
   /* Some registers are 16-bit.  */
-  collect_register_by_name ("fctrl", &val);
-  *(unsigned short *) &fp->fctrl = val;
+  collect_register_by_name (regcache, "fctrl", &val);
+  fp->fctrl = val;
 
-  collect_register_by_name ("fstat", &val);
-  val &= 0xFFFF;
-  *(unsigned short *) &fp->fstat = val;
+  collect_register_by_name (regcache, "fstat", &val);
+  fp->fstat = val;
 
   /* Convert to the simplifed tag form stored in fxsave data.  */
-  collect_register_by_name ("ftag", &val);
+  collect_register_by_name (regcache, "ftag", &val);
   val &= 0xFFFF;
+  val2 = 0;
   for (i = 7; i >= 0; i--)
     {
       int tag = (val >> (i * 2)) & 3;
@@ -182,15 +230,135 @@ i387_cache_to_fxsave (void *buf)
       if (tag != 3)
        val2 |= (1 << i);
     }
-  *(unsigned short *) &fp->ftag = val2;
+  fp->ftag = val2;
 
-  collect_register_by_name ("fiseg", &val);
-  val &= 0xFFFF;
-  *(unsigned short *) &fp->fiseg = val;
+  collect_register_by_name (regcache, "fiseg", &val);
+  fp->fiseg = val;
+
+  collect_register_by_name (regcache, "foseg", &val);
+  fp->foseg = val;
+}
+
+void
+i387_cache_to_xsave (struct regcache *regcache, void *buf)
+{
+  struct i387_xsave *fp = (struct i387_xsave *) buf;
+  int i;
+  unsigned long val, val2;
+  unsigned int clear_bv;
+  unsigned long long xstate_bv = 0;
+  char raw[16];
+  char *p;
+
+  /* The supported bits in `xstat_bv' are 1 byte.  Clear part in
+     vector registers if its bit in xstat_bv is zero.  */
+  clear_bv = (~fp->xstate_bv) & x86_xcr0;
+
+  /* Clear part in x87 and vector registers if its bit in xstat_bv is
+     zero.  */
+  if (clear_bv)
+    {
+      if ((clear_bv & I386_XSTATE_X87))
+       for (i = 0; i < 8; i++)
+         memset (((char *) &fp->st_space[0]) + i * 16, 0, 10);
+
+      if ((clear_bv & I386_XSTATE_SSE))
+       for (i = 0; i < num_xmm_registers; i++) 
+         memset (((char *) &fp->xmm_space[0]) + i * 16, 0, 16);
+
+      if ((clear_bv & I386_XSTATE_AVX))
+       for (i = 0; i < num_xmm_registers; i++) 
+         memset (((char *) &fp->ymmh_space[0]) + i * 16, 0, 16);
+    }
+
+  /* Check if any x87 registers are changed.  */
+  if ((x86_xcr0 & I386_XSTATE_X87))
+    {
+      int st0_regnum = find_regno ("st0");
+
+      for (i = 0; i < 8; i++)
+       {
+         collect_register (regcache, i + st0_regnum, raw);
+         p = ((char *) &fp->st_space[0]) + i * 16;
+         if (memcmp (raw, p, 10))
+           {
+             xstate_bv |= I386_XSTATE_X87;
+             memcpy (p, raw, 10);
+           }
+       }
+    }
+
+  /* Check if any SSE registers are changed.  */
+  if ((x86_xcr0 & I386_XSTATE_SSE))
+    {
+      int xmm0_regnum = find_regno ("xmm0");
+
+      for (i = 0; i < num_xmm_registers; i++) 
+       {
+         collect_register (regcache, i + xmm0_regnum, raw);
+         p = ((char *) &fp->xmm_space[0]) + i * 16;
+         if (memcmp (raw, p, 16))
+           {
+             xstate_bv |= I386_XSTATE_SSE;
+             memcpy (p, raw, 16);
+           }
+       }
+    }
+
+  /* Check if any AVX registers are changed.  */
+  if ((x86_xcr0 & I386_XSTATE_AVX))
+    {
+      int ymm0h_regnum = find_regno ("ymm0h");
+
+      for (i = 0; i < num_xmm_registers; i++) 
+       {
+         collect_register (regcache, i + ymm0h_regnum, raw);
+         p = ((char *) &fp->ymmh_space[0]) + i * 16;
+         if (memcmp (raw, p, 16))
+           {
+             xstate_bv |= I386_XSTATE_AVX;
+             memcpy (p, raw, 16);
+           }
+       }
+    }
+
+  /* Update the corresponding bits in xstate_bv if any SSE/AVX
+     registers are changed.  */
+  fp->xstate_bv |= xstate_bv;
+
+  collect_register_by_name (regcache, "fioff", &fp->fioff);
+  collect_register_by_name (regcache, "fooff", &fp->fooff);
+  collect_register_by_name (regcache, "mxcsr", &fp->mxcsr);
+
+  /* This one's 11 bits... */
+  collect_register_by_name (regcache, "fop", &val2);
+  fp->fop = (val2 & 0x7FF) | (fp->fop & 0xF800);
+
+  /* Some registers are 16-bit.  */
+  collect_register_by_name (regcache, "fctrl", &val);
+  fp->fctrl = val;
 
-  collect_register_by_name ("foseg", &val);
+  collect_register_by_name (regcache, "fstat", &val);
+  fp->fstat = val;
+
+  /* Convert to the simplifed tag form stored in fxsave data.  */
+  collect_register_by_name (regcache, "ftag", &val);
   val &= 0xFFFF;
-  *(unsigned short *) &fp->foseg = val;
+  val2 = 0;
+  for (i = 7; i >= 0; i--)
+    {
+      int tag = (val >> (i * 2)) & 3;
+
+      if (tag != 3)
+       val2 |= (1 << i);
+    }
+  fp->ftag = val2;
+
+  collect_register_by_name (regcache, "fiseg", &val);
+  fp->fiseg = val;
+
+  collect_register_by_name (regcache, "foseg", &val);
+  fp->foseg = val;
 }
 
 static int
@@ -205,7 +373,7 @@ i387_ftag (struct i387_fxsave *fp, int regno)
   exponent = (((raw[9] & 0x7f) << 8) | raw[8]);
   fraction[0] = ((raw[3] << 24) | (raw[2] << 16) | (raw[1] << 8) | raw[0]);
   fraction[1] = (((raw[7] & 0x7f) << 24) | (raw[6] << 16)
-                 | (raw[5] << 8) | raw[4]);
+                | (raw[5] << 8) | raw[4]);
 
   if (exponent == 0x7fff)
     {
@@ -215,33 +383,33 @@ i387_ftag (struct i387_fxsave *fp, int regno)
   else if (exponent == 0x0000)
     {
       if (fraction[0] == 0x0000 && fraction[1] == 0x0000 && !integer)
-        {
-          /* Zero.  */
-          return (1);
-        }
+       {
+         /* Zero.  */
+         return (1);
+       }
       else
-        {
-          /* Special.  */
-          return (2);
-        }
+       {
+         /* Special.  */
+         return (2);
+       }
     }
   else
     {
       if (integer)
-        {
-          /* Valid.  */
-          return (0);
-        }
+       {
+         /* Valid.  */
+         return (0);
+       }
       else
-        {
-          /* Special.  */
-          return (2);
-        }
+       {
+         /* Special.  */
+         return (2);
+       }
     }
 }
 
 void
-i387_fxsave_to_cache (const void *buf)
+i387_fxsave_to_cache (struct regcache *regcache, const void *buf)
 {
   struct i387_fxsave *fp = (struct i387_fxsave *) buf;
   int i, top;
@@ -250,20 +418,22 @@ i387_fxsave_to_cache (const void *buf)
   unsigned long val;
 
   for (i = 0; i < 8; i++)
-    supply_register (i + st0_regnum, ((char *) &fp->st_space[0]) + i * 16);
+    supply_register (regcache, i + st0_regnum,
+                    ((char *) &fp->st_space[0]) + i * 16);
   for (i = 0; i < num_xmm_registers; i++)
-    supply_register (i + xmm0_regnum, ((char *) &fp->xmm_space[0]) + i * 16);
+    supply_register (regcache, i + xmm0_regnum,
+                    ((char *) &fp->xmm_space[0]) + i * 16);
+
+  supply_register_by_name (regcache, "fioff", &fp->fioff);
+  supply_register_by_name (regcache, "fooff", &fp->fooff);
+  supply_register_by_name (regcache, "mxcsr", &fp->mxcsr);
 
-  supply_register_by_name ("fioff", &fp->fioff);
-  supply_register_by_name ("fooff", &fp->fooff);
-  supply_register_by_name ("mxcsr", &fp->mxcsr);
-  
   /* Some registers are 16-bit.  */
   val = fp->fctrl & 0xFFFF;
-  supply_register_by_name ("fctrl", &val);
+  supply_register_by_name (regcache, "fctrl", &val);
 
   val = fp->fstat & 0xFFFF;
-  supply_register_by_name ("fstat", &val);
+  supply_register_by_name (regcache, "fstat", &val);
 
   /* Generate the form of ftag data that GDB expects.  */
   top = (fp->fstat >> 11) & 0x7;
@@ -271,20 +441,124 @@ i387_fxsave_to_cache (const void *buf)
   for (i = 7; i >= 0; i--)
     {
       int tag;
-      if (val & (1 << i))
+      if (fp->ftag & (1 << i))
        tag = i387_ftag (fp, (i + 8 - top) % 8);
       else
        tag = 3;
       val |= tag << (2 * i);
     }
-  supply_register_by_name ("ftag", &val);
+  supply_register_by_name (regcache, "ftag", &val);
 
   val = fp->fiseg & 0xFFFF;
-  supply_register_by_name ("fiseg", &val);
+  supply_register_by_name (regcache, "fiseg", &val);
 
   val = fp->foseg & 0xFFFF;
-  supply_register_by_name ("foseg", &val);
+  supply_register_by_name (regcache, "foseg", &val);
 
   val = (fp->fop) & 0x7FF;
-  supply_register_by_name ("fop", &val);
+  supply_register_by_name (regcache, "fop", &val);
 }
+
+void
+i387_xsave_to_cache (struct regcache *regcache, const void *buf)
+{
+  struct i387_xsave *fp = (struct i387_xsave *) buf;
+  struct i387_fxsave *fxp = (struct i387_fxsave *) buf;
+  int i, top;
+  unsigned long val;
+  unsigned int clear_bv;
+  gdb_byte *p;
+
+  /* The supported bits in `xstat_bv' are 1 byte.  Clear part in
+     vector registers if its bit in xstat_bv is zero.  */
+  clear_bv = (~fp->xstate_bv) & x86_xcr0;
+
+  /* Check if any x87 registers are changed.  */
+  if ((x86_xcr0 & I386_XSTATE_X87) != 0)
+    {
+      int st0_regnum = find_regno ("st0");
+
+      if ((clear_bv & I386_XSTATE_X87) != 0)
+       {
+         for (i = 0; i < 8; i++)
+           supply_register_zeroed (regcache, i + st0_regnum);
+       }
+      else
+       {
+         p = (gdb_byte *) &fp->st_space[0];
+         for (i = 0; i < 8; i++)
+           supply_register (regcache, i + st0_regnum, p + i * 16);
+       }
+    }
+
+  if ((x86_xcr0 & I386_XSTATE_SSE) != 0)
+    {
+      int xmm0_regnum = find_regno ("xmm0");
+
+      if ((clear_bv & I386_XSTATE_SSE))
+       {
+         for (i = 0; i < num_xmm_registers; i++)
+           supply_register_zeroed (regcache, i + xmm0_regnum);
+       }
+      else
+       {
+         p = (gdb_byte *) &fp->xmm_space[0];
+         for (i = 0; i < num_xmm_registers; i++)
+           supply_register (regcache, i + xmm0_regnum, p + i * 16);
+       }
+    }
+
+  if ((x86_xcr0 & I386_XSTATE_AVX) != 0)
+    {
+      int ymm0h_regnum = find_regno ("ymm0h");
+
+      if ((clear_bv & I386_XSTATE_AVX) != 0)
+       {
+         for (i = 0; i < num_xmm_registers; i++)
+           supply_register_zeroed (regcache, i + ymm0h_regnum);
+       }
+      else
+       {
+         p = (gdb_byte *) &fp->ymmh_space[0];
+         for (i = 0; i < num_xmm_registers; i++)
+           supply_register (regcache, i + ymm0h_regnum, p + i * 16);
+       }
+    }
+
+  supply_register_by_name (regcache, "fioff", &fp->fioff);
+  supply_register_by_name (regcache, "fooff", &fp->fooff);
+  supply_register_by_name (regcache, "mxcsr", &fp->mxcsr);
+
+  /* Some registers are 16-bit.  */
+  val = fp->fctrl & 0xFFFF;
+  supply_register_by_name (regcache, "fctrl", &val);
+
+  val = fp->fstat & 0xFFFF;
+  supply_register_by_name (regcache, "fstat", &val);
+
+  /* Generate the form of ftag data that GDB expects.  */
+  top = (fp->fstat >> 11) & 0x7;
+  val = 0;
+  for (i = 7; i >= 0; i--)
+    {
+      int tag;
+      if (fp->ftag & (1 << i))
+       tag = i387_ftag (fxp, (i + 8 - top) % 8);
+      else
+       tag = 3;
+      val |= tag << (2 * i);
+    }
+  supply_register_by_name (regcache, "ftag", &val);
+
+  val = fp->fiseg & 0xFFFF;
+  supply_register_by_name (regcache, "fiseg", &val);
+
+  val = fp->foseg & 0xFFFF;
+  supply_register_by_name (regcache, "foseg", &val);
+
+  val = (fp->fop) & 0x7FF;
+  supply_register_by_name (regcache, "fop", &val);
+}
+
+/* Default to SSE.  */
+unsigned long long x86_xcr0 = I386_XSTATE_SSE_MASK;
This page took 0.031645 seconds and 4 git commands to generate.