Re: Revise sleb128 and uleb128 reader
[deliverable/binutils-gdb.git] / bfd / rs6000-core.c
index 7f6bec462e2313b0491ca13b2181a4a3283b23dc..10c66e21144e1811ba8cbee0feb6f3ba8622e860 100644 (file)
@@ -1,38 +1,33 @@
 /* IBM RS/6000 "XCOFF" back-end for BFD.
 /* IBM RS/6000 "XCOFF" back-end for BFD.
-   Copyright 1990, 91, 92, 93, 94, 95, 96, 97, 98, 2000
-   Free Software Foundation, Inc.
-   FIXME: Can someone provide a transliteration of this name into ASCII?
-   Using the following chars caused a compiler warning on HIUX (so I replaced
-   them with octal escapes), and isn't useful without an understanding of what
-   character set it is.
-   Written by Metin G. Ozisik, Mimi Ph\373\364ng-Th\345o V\365,
-     and John Gilmore.
+   Copyright (C) 1990-2019 Free Software Foundation, Inc.
+   Written by Metin G. Ozisik, Mimi Phuong-Thao Vo, and John Gilmore.
    Archive support from Damon A. Permezel.
    Contributed by IBM Corporation and Cygnus Support.
 
    Archive support from Damon A. Permezel.
    Contributed by IBM Corporation and Cygnus Support.
 
-This file is part of BFD, the Binary File Descriptor library.
+   This file is part of BFD, the Binary File Descriptor library.
 
 
-This program is free software; you can redistribute it and/or modify
-it under the terms of the GNU General Public License as published by
-the Free Software Foundation; either version 2 of the License, or
-(at your option) any later version.
+   This program is free software; you can redistribute it and/or modify
+   it under the terms of the GNU General Public License as published by
+   the Free Software Foundation; either version 3 of the License, or
+   (at your option) any later version.
 
 
-This program is distributed in the hope that it will be useful,
-but WITHOUT ANY WARRANTY; without even the implied warranty of
-MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
-GNU General Public License for more details.
+   This program is distributed in the hope that it will be useful,
+   but WITHOUT ANY WARRANTY; without even the implied warranty of
+   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
+   GNU General Public License for more details.
+
+   You should have received a copy of the GNU General Public License
+   along with this program; if not, write to the Free Software
+   Foundation, Inc., 51 Franklin Street - Fifth Floor, Boston,
+   MA 02110-1301, USA.  */
 
 
-You should have received a copy of the GNU General Public License
-along with this program; if not, write to the Free Software
-Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
 
 /* This port currently only handles reading object files, except when
    compiled on an RS/6000 host.  -- no archive support, no core files.
    In all cases, it does not support writing.
 
    This is in a separate file from coff-rs6000.c, because it includes
 
 /* This port currently only handles reading object files, except when
    compiled on an RS/6000 host.  -- no archive support, no core files.
    In all cases, it does not support writing.
 
    This is in a separate file from coff-rs6000.c, because it includes
-   system include files that conflict with coff/rs6000.h.
-  */
+   system include files that conflict with coff/rs6000.h.  */
 
 /* Internalcoff.h and coffcode.h modify themselves based on this flag.  */
 #define RS6000COFF_C 1
 
 /* Internalcoff.h and coffcode.h modify themselves based on this flag.  */
 #define RS6000COFF_C 1
@@ -44,8 +39,8 @@ Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
 #define _LONG_LONG
 #endif
 
 #define _LONG_LONG
 #endif
 
-#include "bfd.h"
 #include "sysdep.h"
 #include "sysdep.h"
+#include "bfd.h"
 #include "libbfd.h"
 
 #ifdef AIX_CORE
 #include "libbfd.h"
 
 #ifdef AIX_CORE
@@ -60,10 +55,7 @@ Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
 
 #undef SCNHDR
 
 
 #undef SCNHDR
 
-
-/* ------------------------------------------------------------------------ */
-/*     Support for core file stuff..                                       */
-/* ------------------------------------------------------------------------ */
+/* Support for core file stuff.  */
 
 #include <sys/user.h>
 #define __LDINFO_PTRACE32__    /* for __ld_info32 */
 
 #include <sys/user.h>
 #define __LDINFO_PTRACE32__    /* for __ld_info32 */
@@ -72,6 +64,9 @@ Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
 #include <sys/core.h>
 #include <sys/systemcfg.h>
 
 #include <sys/core.h>
 #include <sys/systemcfg.h>
 
+/* Borrowed from <sys/inttypes.h> on recent AIX versions.  */
+typedef unsigned long ptr_to_uint;
+
 #define        core_hdr(bfd)           ((CoreHdr *) bfd->tdata.any)
 
 /* AIX 4.1 changed the names and locations of a few items in the core file.
 #define        core_hdr(bfd)           ((CoreHdr *) bfd->tdata.any)
 
 /* AIX 4.1 changed the names and locations of a few items in the core file.
@@ -81,7 +76,7 @@ Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
    AIX_CORE_DUMPX_CORE is defined (by configure) on AIX 4.3+, and
    CORE_VERSION_1 is defined (by AIX core.h) as 2 on AIX 4.3+ and as 1 on AIX
    4.1 and 4.2.  AIX pre-4.1 (aka 3.x) either doesn't define CORE_VERSION_1
    AIX_CORE_DUMPX_CORE is defined (by configure) on AIX 4.3+, and
    CORE_VERSION_1 is defined (by AIX core.h) as 2 on AIX 4.3+ and as 1 on AIX
    4.1 and 4.2.  AIX pre-4.1 (aka 3.x) either doesn't define CORE_VERSION_1
-   or else defines it as 0. */
+   or else defines it as 0.  */
 
 #if defined(CORE_VERSION_1) && !CORE_VERSION_1
 # undef CORE_VERSION_1
 
 #if defined(CORE_VERSION_1) && !CORE_VERSION_1
 # undef CORE_VERSION_1
@@ -90,12 +85,13 @@ Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.  */
 /* The following union and macros allow this module to compile on all AIX
    versions and to handle both core_dumpx and core_dump on 4.3+.  CNEW_*()
    and COLD_*() macros respectively retrieve core_dumpx and core_dump
 /* The following union and macros allow this module to compile on all AIX
    versions and to handle both core_dumpx and core_dump on 4.3+.  CNEW_*()
    and COLD_*() macros respectively retrieve core_dumpx and core_dump
-   values. */
+   values.  */
 
 
-/* Union of 32-bit and 64-bit versions of ld_info. */
+/* Union of 32-bit and 64-bit versions of ld_info.  */
 
 
-typedef union {
-#ifdef __ld_info32
+typedef union
+{
+#if defined (__ld_info32) || defined (__ld_info64)
   struct __ld_info32 l32;
   struct __ld_info64 l64;
 #else
   struct __ld_info32 l32;
   struct __ld_info64 l64;
 #else
@@ -104,40 +100,63 @@ typedef union {
 #endif
 } LdInfo;
 
 #endif
 } LdInfo;
 
-/* Union of old and new core dump structures. */
+/* Union of old and new core dump structures.  */
 
 
-typedef union {
+typedef union
+{
 #ifdef AIX_CORE_DUMPX_CORE
 #ifdef AIX_CORE_DUMPX_CORE
-    struct core_dumpx new;     /* new AIX 4.3+ core dump */
+  struct core_dumpx new_dump;  /* New AIX 4.3+ core dump.  */
 #else
 #else
-    struct core_dump new;      /* for simpler coding */
+  struct core_dump new_dump;   /* For simpler coding.  */
+#endif
+#ifndef BFD64                  /* Use old only if gdb is 32-bit.  */
+  struct core_dump old;                /* Old AIX 4.2- core dump, still used on
+                                  4.3+ with appropriate SMIT config.  */
 #endif
 #endif
-    struct core_dump old;      /* old AIX 4.2- core dump, still used on
-                                  4.3+ with appropriate SMIT config */
 } CoreHdr;
 
 } CoreHdr;
 
-/* Union of old and new vm_info structures. */
+/* Union of old and new vm_info structures.  */
 
 #ifdef CORE_VERSION_1
 
 #ifdef CORE_VERSION_1
-typedef union {
+typedef union
+{
 #ifdef AIX_CORE_DUMPX_CORE
 #ifdef AIX_CORE_DUMPX_CORE
-    struct vm_infox new;
+  struct vm_infox new_dump;
 #else
 #else
-    struct vm_info new;
+  struct vm_info new_dump;
+#endif
+#ifndef BFD64
+  struct vm_info old;
 #endif
 #endif
-    struct vm_info old;
 } VmInfo;
 #endif
 
 } VmInfo;
 #endif
 
-/* Return whether CoreHdr C is in new or old format. */
+/* Return whether CoreHdr C is in new or old format.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 
 #ifdef AIX_CORE_DUMPX_CORE
-# define CORE_NEW(c)   (!(c).old.c_entries)
+# ifndef BFD64
+#  define CORE_NEW(c)  (!(c).old.c_entries)
+# else
+#  define CORE_NEW(c)  1
+# endif
 #else
 # define CORE_NEW(c)   0
 #endif
 
 #else
 # define CORE_NEW(c)   0
 #endif
 
-/* Return the c_stackorg field from struct core_dumpx C. */
+/* Return whether CoreHdr C usese core_dumpxx structure.
+
+   FIXME: the core file format version number used here definitely indicates
+   that struct core_dumpxx should be used to represent the core file header,
+   but that may not be the only such format version number.  */
+
+#ifdef AIX_5_CORE
+# define CORE_DUMPXX_VERSION   267312562
+# define CNEW_IS_CORE_DUMPXX(c) ((c).new_dump.c_version == CORE_DUMPXX_VERSION)
+#else
+# define CNEW_IS_CORE_DUMPXX(c) 0
+#endif
+
+/* Return the c_stackorg field from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_STACKORG(c)      (c).c_stackorg
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_STACKORG(c)      (c).c_stackorg
@@ -145,7 +164,7 @@ typedef union {
 # define CNEW_STACKORG(c)      0
 #endif
 
 # define CNEW_STACKORG(c)      0
 #endif
 
-/* Return the offset to the loader region from struct core_dump C. */
+/* Return the offset to the loader region from struct core_dump C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_LOADER(c)        (c).c_loader
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_LOADER(c)        (c).c_loader
@@ -153,11 +172,11 @@ typedef union {
 # define CNEW_LOADER(c)        0
 #endif
 
 # define CNEW_LOADER(c)        0
 #endif
 
-/* Return the offset to the loader region from struct core_dump C. */
+/* Return the offset to the loader region from struct core_dump C.  */
 
 #define COLD_LOADER(c) (c).c_tab
 
 
 #define COLD_LOADER(c) (c).c_tab
 
-/* Return the c_lsize field from struct core_dumpx C. */
+/* Return the c_lsize field from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_LSIZE(c) (c).c_lsize
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_LSIZE(c) (c).c_lsize
@@ -165,7 +184,7 @@ typedef union {
 # define CNEW_LSIZE(c) 0
 #endif
 
 # define CNEW_LSIZE(c) 0
 #endif
 
-/* Return the c_dataorg field from struct core_dumpx C. */
+/* Return the c_dataorg field from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_DATAORG(c)       (c).c_dataorg
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_DATAORG(c)       (c).c_dataorg
@@ -173,7 +192,7 @@ typedef union {
 # define CNEW_DATAORG(c)       0
 #endif
 
 # define CNEW_DATAORG(c)       0
 #endif
 
-/* Return the c_datasize field from struct core_dumpx C. */
+/* Return the c_datasize field from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_DATASIZE(c)      (c).c_datasize
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_DATASIZE(c)      (c).c_datasize
@@ -181,15 +200,15 @@ typedef union {
 # define CNEW_DATASIZE(c)      0
 #endif
 
 # define CNEW_DATASIZE(c)      0
 #endif
 
-/* Return the c_impl field from struct core_dumpx C. */
+/* Return the c_impl field from struct core_dumpx C.  */
 
 
-#ifdef AIX_CORE_DUMPX_CORE
+#if defined (HAVE_ST_C_IMPL) || defined (AIX_5_CORE)
 # define CNEW_IMPL(c)  (c).c_impl
 #else
 # define CNEW_IMPL(c)  0
 #endif
 
 # define CNEW_IMPL(c)  (c).c_impl
 #else
 # define CNEW_IMPL(c)  0
 #endif
 
-/* Return the command string from struct core_dumpx C. */
+/* Return the command string from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_COMM(c)  (c).c_u.U_proc.pi_comm
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_COMM(c)  (c).c_u.U_proc.pi_comm
@@ -197,7 +216,7 @@ typedef union {
 # define CNEW_COMM(c)  0
 #endif
 
 # define CNEW_COMM(c)  0
 #endif
 
-/* Return the command string from struct core_dump C. */
+/* Return the command string from struct core_dump C.  */
 
 #ifdef CORE_VERSION_1
 # define COLD_COMM(c)  (c).c_u.U_comm
 
 #ifdef CORE_VERSION_1
 # define COLD_COMM(c)  (c).c_u.U_comm
@@ -205,7 +224,7 @@ typedef union {
 # define COLD_COMM(c)  (c).c_u.u_comm
 #endif
 
 # define COLD_COMM(c)  (c).c_u.u_comm
 #endif
 
-/* Return the struct __context64 pointer from struct core_dumpx C. */
+/* Return the struct __context64 pointer from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_CONTEXT64(c)     (c).c_flt.hctx.r64
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_CONTEXT64(c)     (c).c_flt.hctx.r64
@@ -213,7 +232,7 @@ typedef union {
 # define CNEW_CONTEXT64(c)     c
 #endif
 
 # define CNEW_CONTEXT64(c)     c
 #endif
 
-/* Return the struct mstsave pointer from struct core_dumpx C. */
+/* Return the struct mstsave pointer from struct core_dumpx C.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_MSTSAVE(c)       (c).c_flt.hctx.r32
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_MSTSAVE(c)       (c).c_flt.hctx.r32
@@ -221,7 +240,7 @@ typedef union {
 # define CNEW_MSTSAVE(c)       c
 #endif
 
 # define CNEW_MSTSAVE(c)       c
 #endif
 
-/* Return the struct mstsave pointer from struct core_dump C. */
+/* Return the struct mstsave pointer from struct core_dump C.  */
 
 #ifdef CORE_VERSION_1
 # define COLD_MSTSAVE(c)       (c).c_mst
 
 #ifdef CORE_VERSION_1
 # define COLD_MSTSAVE(c)       (c).c_mst
@@ -229,7 +248,7 @@ typedef union {
 # define COLD_MSTSAVE(c)       (c).c_u.u_save
 #endif
 
 # define COLD_MSTSAVE(c)       (c).c_u.u_save
 #endif
 
-/* Return whether struct core_dumpx is from a 64-bit process. */
+/* Return whether struct core_dumpx is from a 64-bit process.  */
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_PROC64(c)                IS_PROC64(&(c).c_u.U_proc)
 
 #ifdef AIX_CORE_DUMPX_CORE
 # define CNEW_PROC64(c)                IS_PROC64(&(c).c_u.U_proc)
@@ -238,7 +257,7 @@ typedef union {
 #endif
 
 /* Magic end-of-stack addresses for old core dumps.  This is _very_ fragile,
 #endif
 
 /* Magic end-of-stack addresses for old core dumps.  This is _very_ fragile,
-   but I don't see any easy way to get that info right now. */
+   but I don't see any easy way to get that info right now.  */
 
 #ifdef CORE_VERSION_1
 # define COLD_STACKEND 0x2ff23000
 
 #ifdef CORE_VERSION_1
 # define COLD_STACKEND 0x2ff23000
@@ -247,49 +266,62 @@ typedef union {
 #endif
 
 /* Size of the leading portion that old and new core dump structures have in
 #endif
 
 /* Size of the leading portion that old and new core dump structures have in
-   common. */
-#define CORE_COMMONSZ  ((int)&((struct core_dump *)0)->c_entries + \
-                        sizeof (((struct core_dump *)0)->c_entries))
+   common.  */
+#ifdef AIX_CORE_DUMPX_CORE
+#define CORE_COMMONSZ  ((long) &((struct core_dumpx *) 0)->c_entries \
+                       + sizeof (((struct core_dumpx *) 0)->c_entries))
+#else
+#define CORE_COMMONSZ  ((int) &((struct core_dump *) 0)->c_entries \
+                       + sizeof (((struct core_dump *) 0)->c_entries))
+#endif
+/* Define prototypes for certain functions, to avoid a compiler warning
+   saying that they are missing.  */
+
+const bfd_target * rs6000coff_core_p (bfd *abfd);
+bfd_boolean rs6000coff_core_file_matches_executable_p (bfd *core_bfd,
+                                                      bfd *exec_bfd);
+char * rs6000coff_core_file_failing_command (bfd *abfd);
+int rs6000coff_core_file_failing_signal (bfd *abfd);
 
 
-/* Try to read into CORE the header from the core file associated with ABFD. 
-   Return success. */
+/* Try to read into CORE the header from the core file associated with ABFD.
+   Return success.  */
 
 
-static boolean
+static bfd_boolean
 read_hdr (bfd *abfd, CoreHdr *core)
 {
   bfd_size_type size;
 
 read_hdr (bfd *abfd, CoreHdr *core)
 {
   bfd_size_type size;
 
-  if (bfd_seek (abfd, 0, SEEK_SET) != 0)
-    return false;
+  if (bfd_seek (abfd, (file_ptr) 0, SEEK_SET) != 0)
+    return FALSE;
 
   /* Read the leading portion that old and new core dump structures have in
 
   /* Read the leading portion that old and new core dump structures have in
-     common. */
-  if (bfd_read (core, CORE_COMMONSZ, 1, abfd) != CORE_COMMONSZ)
-    return false;
-
-  /* Read the trailing portion of the structure. */
-  size = CORE_NEW (*core) ? sizeof (core->new) : sizeof (core->old)
-    - CORE_COMMONSZ;
-  return bfd_read ((char *)core + CORE_COMMONSZ, size, 1, abfd) == size;
+     common.  */
+  size = CORE_COMMONSZ;
+  if (bfd_bread (core, size, abfd) != size)
+    return FALSE;
+
+  /* Read the trailing portion of the structure.  */
+  if (CORE_NEW (*core))
+    size = sizeof (core->new_dump);
+#ifndef BFD64
+  else
+    size = sizeof (core->old);
+#endif
+  size -= CORE_COMMONSZ;
+  return bfd_bread ((char *) core + CORE_COMMONSZ, size, abfd) == size;
 }
 
 static asection *
 }
 
 static asection *
-make_bfd_asection (abfd, name, flags, _raw_size, vma, filepos)
-     bfd *abfd;
-     CONST char *name;
-     flagword flags;
-     bfd_size_type _raw_size;
-     bfd_vma vma;
-     file_ptr filepos;
+make_bfd_asection (bfd *abfd, const char *name, flagword flags,
+                  bfd_size_type size, bfd_vma vma, file_ptr filepos)
 {
   asection *asect;
 
 {
   asection *asect;
 
-  asect = bfd_make_section_anyway (abfd, name);
+  asect = bfd_make_section_anyway_with_flags (abfd, name, flags);
   if (!asect)
     return NULL;
 
   if (!asect)
     return NULL;
 
-  asect->flags = flags;
-  asect->_raw_size = _raw_size;
+  asect->size = size;
   asect->vma = vma;
   asect->filepos = filepos;
   asect->alignment_power = 8;
   asect->vma = vma;
   asect->filepos = filepos;
   asect->alignment_power = 8;
@@ -298,18 +330,17 @@ make_bfd_asection (abfd, name, flags, _raw_size, vma, filepos)
 }
 
 /* Decide if a given bfd represents a `core' file or not. There really is no
 }
 
 /* Decide if a given bfd represents a `core' file or not. There really is no
-   magic number or anything like, in rs6000coff. */
+   magic number or anything like, in rs6000coff.  */
 
 const bfd_target *
 
 const bfd_target *
-rs6000coff_core_p (abfd)
-     bfd *abfd;
+rs6000coff_core_p (bfd *abfd)
 {
   CoreHdr core;
   struct stat statbuf;
   bfd_size_type size;
   char *tmpptr;
 
 {
   CoreHdr core;
   struct stat statbuf;
   bfd_size_type size;
   char *tmpptr;
 
-  /* Values from new and old core structures. */
+  /* Values from new and old core structures.  */
   int c_flag;
   file_ptr c_stack, c_regoff, c_loader;
   bfd_size_type c_size, c_regsize, c_lsize;
   int c_flag;
   file_ptr c_stack, c_regoff, c_loader;
   bfd_size_type c_size, c_regsize, c_lsize;
@@ -324,44 +355,55 @@ rs6000coff_core_p (abfd)
       return NULL;
     }
 
       return NULL;
     }
 
-  /* Copy fields from new or old core structure. */
+  /* This isn't the right handler for 64-bit core files on AIX 5.x.  */
+  if (CORE_NEW (core) && CNEW_IS_CORE_DUMPXX (core))
+    {
+      bfd_set_error (bfd_error_wrong_format);
+      return NULL;
+    }
+
+  /* Copy fields from new or old core structure.  */
   if (CORE_NEW (core))
     {
   if (CORE_NEW (core))
     {
-      c_flag = core.new.c_flag;
-      c_stack = (file_ptr) core.new.c_stack;
-      c_size = core.new.c_size;
-      c_stackend = CNEW_STACKORG (core.new) + c_size;
-      c_lsize = CNEW_LSIZE (core.new);
-      c_loader = CNEW_LOADER (core.new);
-      proc64 = CNEW_PROC64 (core.new);
+      c_flag = core.new_dump.c_flag;
+      c_stack = (file_ptr) core.new_dump.c_stack;
+      c_size = core.new_dump.c_size;
+      c_stackend = CNEW_STACKORG (core.new_dump) + c_size;
+      c_lsize = CNEW_LSIZE (core.new_dump);
+      c_loader = CNEW_LOADER (core.new_dump);
+#ifndef BFD64
+      proc64 = CNEW_PROC64 (core.new_dump);
     }
   else
     {
       c_flag = core.old.c_flag;
     }
   else
     {
       c_flag = core.old.c_flag;
-      c_stack = (file_ptr) core.old.c_stack;
+      c_stack = (file_ptr) (ptr_to_uint) core.old.c_stack;
       c_size = core.old.c_size;
       c_stackend = COLD_STACKEND;
       c_lsize = 0x7ffffff;
       c_size = core.old.c_size;
       c_stackend = COLD_STACKEND;
       c_lsize = 0x7ffffff;
-      c_loader = (file_ptr) COLD_LOADER (core.old);
+      c_loader = (file_ptr) (ptr_to_uint) COLD_LOADER (core.old);
+#endif
       proc64 = 0;
     }
 
   if (proc64)
     {
       proc64 = 0;
     }
 
   if (proc64)
     {
-      c_regsize = sizeof (CNEW_CONTEXT64 (core.new));
-      c_regptr = &CNEW_CONTEXT64 (core.new);
+      c_regsize = sizeof (CNEW_CONTEXT64 (core.new_dump));
+      c_regptr = &CNEW_CONTEXT64 (core.new_dump);
     }
   else if (CORE_NEW (core))
     {
     }
   else if (CORE_NEW (core))
     {
-      c_regsize = sizeof (CNEW_MSTSAVE (core.new));
-      c_regptr = &CNEW_MSTSAVE (core.new);
+      c_regsize = sizeof (CNEW_MSTSAVE (core.new_dump));
+      c_regptr = &CNEW_MSTSAVE (core.new_dump);
     }
     }
+#ifndef BFD64
   else
     {
       c_regsize = sizeof (COLD_MSTSAVE (core.old));
       c_regptr = &COLD_MSTSAVE (core.old);
     }
   else
     {
       c_regsize = sizeof (COLD_MSTSAVE (core.old));
       c_regptr = &COLD_MSTSAVE (core.old);
     }
-  c_regoff = (char *)c_regptr - (char *)&core;
+#endif
+  c_regoff = (char *) c_regptr - (char *) &core;
 
   if (bfd_stat (abfd, &statbuf) < 0)
     {
 
   if (bfd_stat (abfd, &statbuf) < 0)
     {
@@ -379,7 +421,7 @@ rs6000coff_core_p (abfd)
 
      For the data segment, we have no choice but to keep going if it's
      not there, since the default behavior is not to dump it (regardless
 
      For the data segment, we have no choice but to keep going if it's
      not there, since the default behavior is not to dump it (regardless
-     of the ulimit, it's based on SA_FULLDUMP).         But for the stack segment,
+     of the ulimit, it's based on SA_FULLDUMP).  But for the stack segment,
      if it's not there, we refuse to have anything to do with this core
      file.  The usefulness of a core dump without a stack segment is pretty
      limited anyway.  */
      if it's not there, we refuse to have anything to do with this core
      file.  The usefulness of a core dump without a stack segment is pretty
      limited anyway.  */
@@ -398,10 +440,10 @@ rs6000coff_core_p (abfd)
     }
 
   /* Don't check the core file size for a full core, AIX 4.1 includes
     }
 
   /* Don't check the core file size for a full core, AIX 4.1 includes
-     additional shared library sections in a full core.         */
+     additional shared library sections in a full core.  */
   if (!(c_flag & (FULL_CORE | CORE_TRUNC)))
     {
   if (!(c_flag & (FULL_CORE | CORE_TRUNC)))
     {
-      /* If the size is wrong, it means we're misinterpreting something. */
+      /* If the size is wrong, it means we're misinterpreting something.  */
       if (c_stack + (file_ptr) c_size != statbuf.st_size)
        {
          bfd_set_error (bfd_error_wrong_format);
       if (c_stack + (file_ptr) c_size != statbuf.st_size)
        {
          bfd_set_error (bfd_error_wrong_format);
@@ -410,9 +452,15 @@ rs6000coff_core_p (abfd)
     }
 
   /* Sanity check on the c_tab field.  */
     }
 
   /* Sanity check on the c_tab field.  */
-  if (!CORE_NEW (core) && (c_loader < (file_ptr) sizeof core.old ||
-                          c_loader >= statbuf.st_size ||
-                          c_loader >= c_stack))
+  if (!CORE_NEW (core)
+      && (
+#ifndef BFD64
+         c_loader < (file_ptr) sizeof core.old
+#else
+         c_loader < (file_ptr) sizeof core.new_dump
+#endif
+         || c_loader >= statbuf.st_size
+         || c_loader >= c_stack))
     {
       bfd_set_error (bfd_error_wrong_format);
       return NULL;
     {
       bfd_set_error (bfd_error_wrong_format);
       return NULL;
@@ -420,12 +468,15 @@ rs6000coff_core_p (abfd)
 
   /* Issue warning if the core file was truncated during writing.  */
   if (c_flag & CORE_TRUNC)
 
   /* Issue warning if the core file was truncated during writing.  */
   if (c_flag & CORE_TRUNC)
-    (*_bfd_error_handler) (_("%s: warning core file truncated"),
-                          bfd_get_filename (abfd));
+    _bfd_error_handler (_("%pB: warning core file truncated"), abfd);
 
 
-  /* Allocate core file header.         */
-  size = CORE_NEW (core) ? sizeof (core.new) : sizeof (core.old);
-  tmpptr = (char*) bfd_zalloc (abfd, size);
+  /* Allocate core file header.  */
+#ifndef BFD64
+  size = CORE_NEW (core) ? sizeof (core.new_dump) : sizeof (core.old);
+#else
+  size =  sizeof (core.new_dump);
+#endif
+  tmpptr = (char *) bfd_zalloc (abfd, (bfd_size_type) size);
   if (!tmpptr)
     return NULL;
 
   if (!tmpptr)
     return NULL;
 
@@ -433,13 +484,13 @@ rs6000coff_core_p (abfd)
   memcpy (tmpptr, &core, size);
   set_tdata (abfd, tmpptr);
 
   memcpy (tmpptr, &core, size);
   set_tdata (abfd, tmpptr);
 
-  /* Set architecture. */
+  /* Set architecture.  */
   if (CORE_NEW (core))
     {
       enum bfd_architecture arch;
       unsigned long mach;
 
   if (CORE_NEW (core))
     {
       enum bfd_architecture arch;
       unsigned long mach;
 
-      switch (CNEW_IMPL (core.new))
+      switch (CNEW_IMPL (core.new_dump))
        {
        case POWER_RS1:
        case POWER_RSC:
        {
        case POWER_RS1:
        case POWER_RSC:
@@ -451,21 +502,21 @@ rs6000coff_core_p (abfd)
          arch = bfd_arch_powerpc;
          mach = bfd_mach_ppc;
          break;
          arch = bfd_arch_powerpc;
          mach = bfd_mach_ppc;
          break;
-      }
+       }
       bfd_default_set_arch_mach (abfd, arch, mach);
     }
 
       bfd_default_set_arch_mach (abfd, arch, mach);
     }
 
-  /* .stack section. */
+  /* .stack section.  */
   if (!make_bfd_asection (abfd, ".stack",
                          SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                          c_size, c_stackend - c_size, c_stack))
   if (!make_bfd_asection (abfd, ".stack",
                          SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                          c_size, c_stackend - c_size, c_stack))
-    return NULL;
+    goto fail;
 
 
-  /* .reg section for all registers. */
+  /* .reg section for all registers.  */
   if (!make_bfd_asection (abfd, ".reg",
                          SEC_HAS_CONTENTS,
                          c_regsize, (bfd_vma) 0, c_regoff))
   if (!make_bfd_asection (abfd, ".reg",
                          SEC_HAS_CONTENTS,
                          c_regsize, (bfd_vma) 0, c_regoff))
-    return NULL;
+    goto fail;
 
   /* .ldinfo section.
      To actually find out how long this section is in this particular
 
   /* .ldinfo section.
      To actually find out how long this section is in this particular
@@ -474,7 +525,7 @@ rs6000coff_core_p (abfd)
   if (!make_bfd_asection (abfd, ".ldinfo",
                          SEC_HAS_CONTENTS,
                          c_lsize, (bfd_vma) 0, c_loader))
   if (!make_bfd_asection (abfd, ".ldinfo",
                          SEC_HAS_CONTENTS,
                          c_lsize, (bfd_vma) 0, c_loader))
-    return NULL;
+    goto fail;
 
 #ifndef CORE_VERSION_1
   /* .data section if present.
 
 #ifndef CORE_VERSION_1
   /* .data section if present.
@@ -482,7 +533,7 @@ rs6000coff_core_p (abfd)
      ulimit is large enough, otherwise the data section is omitted.
      AIX 4 sets FULL_CORE even if the core file is truncated, we have
      to examine core.c_datasize below to find out the actual size of
      ulimit is large enough, otherwise the data section is omitted.
      AIX 4 sets FULL_CORE even if the core file is truncated, we have
      to examine core.c_datasize below to find out the actual size of
-     the .data section.         */
+     the .data section.  */
   if (c_flag & FULL_CORE)
     {
       if (!make_bfd_asection (abfd, ".data",
   if (c_flag & FULL_CORE)
     {
       if (!make_bfd_asection (abfd, ".data",
@@ -491,7 +542,7 @@ rs6000coff_core_p (abfd)
                              (bfd_vma)
                                CDATA_ADDR (core.old.c_u.u_dsize),
                              c_stack + c_size))
                              (bfd_vma)
                                CDATA_ADDR (core.old.c_u.u_dsize),
                              c_stack + c_size))
-       return NULL;
+       goto fail;
     }
 #endif
 
     }
 #endif
 
@@ -505,49 +556,60 @@ rs6000coff_core_p (abfd)
     file_ptr ldi_core;
     uint ldi_next;
     bfd_vma ldi_dataorg;
     file_ptr ldi_core;
     uint ldi_next;
     bfd_vma ldi_dataorg;
+    bfd_vma core_dataorg;
 
 
-    /* Fields from new and old core structures. */
+    /* Fields from new and old core structures.  */
     bfd_size_type c_datasize, c_vmregions;
     file_ptr c_data, c_vmm;
 
     if (CORE_NEW (core))
       {
     bfd_size_type c_datasize, c_vmregions;
     file_ptr c_data, c_vmm;
 
     if (CORE_NEW (core))
       {
-       c_datasize = CNEW_DATASIZE (core.new);
-       c_data = (file_ptr) core.new.c_data;
-       c_vmregions = core.new.c_vmregions;
-       c_vmm = (file_ptr) core.new.c_vmm;
+       c_datasize = CNEW_DATASIZE (core.new_dump);
+       c_data = (file_ptr) core.new_dump.c_data;
+       c_vmregions = core.new_dump.c_vmregions;
+       c_vmm = (file_ptr) core.new_dump.c_vmm;
       }
       }
+#ifndef BFD64
     else
       {
        c_datasize = core.old.c_datasize;
     else
       {
        c_datasize = core.old.c_datasize;
-       c_data = (file_ptr) core.old.c_data;
+       c_data = (file_ptr) (ptr_to_uint) core.old.c_data;
        c_vmregions = core.old.c_vmregions;
        c_vmregions = core.old.c_vmregions;
-       c_vmm = (file_ptr) core.old.c_vmm;
+       c_vmm = (file_ptr) (ptr_to_uint) core.old.c_vmm;
       }
       }
+#endif
 
     /* .data section from executable.  */
     if (c_datasize)
       {
 
     /* .data section from executable.  */
     if (c_datasize)
       {
+       /* If Large Memory Model is used, then the .data segment should start from
+          BDATAORG which has been defined in the system header files. */
+
+       if (c_flag & CORE_BIGDATA)
+         core_dataorg = BDATAORG;
+       else
+         core_dataorg = CDATA_ADDR (c_datasize);
+
        if (!make_bfd_asection (abfd, ".data",
                                SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                                c_datasize,
        if (!make_bfd_asection (abfd, ".data",
                                SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                                c_datasize,
-                               (bfd_vma) CDATA_ADDR (c_datasize),
+                               (bfd_vma) core_dataorg,
                                c_data))
                                c_data))
-         return NULL;
+         goto fail;
       }
 
     /* .data sections from loaded objects.  */
     if (proc64)
       }
 
     /* .data sections from loaded objects.  */
     if (proc64)
-      size = (int)((LdInfo *)0)->l64.ldinfo_filename;
+      size = (unsigned long) ((LdInfo *) 0)->l64.ldinfo_filename;
     else
     else
-      size = (int)((LdInfo *)0)->l32.ldinfo_filename;
+      size = (unsigned long) ((LdInfo *) 0)->l32.ldinfo_filename;
 
     while (1)
       {
        if (bfd_seek (abfd, c_loader, SEEK_SET) != 0)
 
     while (1)
       {
        if (bfd_seek (abfd, c_loader, SEEK_SET) != 0)
-         return NULL;
-       if (bfd_read (&ldinfo, size, 1, abfd) != size)
-         return NULL;
+         goto fail;
+       if (bfd_bread (&ldinfo, size, abfd) != size)
+         goto fail;
 
        if (proc64)
          {
 
        if (proc64)
          {
@@ -560,7 +622,7 @@ rs6000coff_core_p (abfd)
          {
            ldi_core = ldinfo.l32.ldinfo_core;
            ldi_datasize = ldinfo.l32.ldinfo_datasize;
          {
            ldi_core = ldinfo.l32.ldinfo_core;
            ldi_datasize = ldinfo.l32.ldinfo_datasize;
-           ldi_dataorg = (bfd_vma)(long) ldinfo.l32.ldinfo_dataorg;
+           ldi_dataorg = (bfd_vma) (ptr_to_uint) ldinfo.l32.ldinfo_dataorg;
            ldi_next = ldinfo.l32.ldinfo_next;
          }
 
            ldi_next = ldinfo.l32.ldinfo_next;
          }
 
@@ -568,7 +630,7 @@ rs6000coff_core_p (abfd)
          if (!make_bfd_asection (abfd, ".data",
                                  SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                                  ldi_datasize, ldi_dataorg, ldi_core))
          if (!make_bfd_asection (abfd, ".data",
                                  SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                                  ldi_datasize, ldi_dataorg, ldi_core))
-             return NULL;
+           goto fail;
 
        if (ldi_next == 0)
          break;
 
        if (ldi_next == 0)
          break;
@@ -581,7 +643,7 @@ rs6000coff_core_p (abfd)
        bfd_size_type i;
 
        if (bfd_seek (abfd, c_vmm, SEEK_SET) != 0)
        bfd_size_type i;
 
        if (bfd_seek (abfd, c_vmm, SEEK_SET) != 0)
-         return NULL;
+         goto fail;
 
        for (i = 0; i < c_vmregions; i++)
          {
 
        for (i = 0; i < c_vmregions; i++)
          {
@@ -590,81 +652,92 @@ rs6000coff_core_p (abfd)
            file_ptr vminfo_offset;
            bfd_vma vminfo_addr;
 
            file_ptr vminfo_offset;
            bfd_vma vminfo_addr;
 
-           size = CORE_NEW (core) ? sizeof (vminfo.new) : sizeof (vminfo.old);
-           if (bfd_read (&vminfo, size, 1, abfd) != size)
-             return NULL;
+#ifndef BFD64
+           size = CORE_NEW (core) ? sizeof (vminfo.new_dump) : sizeof (vminfo.old);
+#else
+           size = sizeof (vminfo.new_dump);
+#endif
+           if (bfd_bread (&vminfo, size, abfd) != size)
+             goto fail;
 
            if (CORE_NEW (core))
              {
 
            if (CORE_NEW (core))
              {
-               vminfo_addr = (bfd_vma) vminfo.new.vminfo_addr;
-               vminfo_size = vminfo.new.vminfo_size;
-               vminfo_offset = vminfo.new.vminfo_offset;
+               vminfo_addr = (bfd_vma) vminfo.new_dump.vminfo_addr;
+               vminfo_size = vminfo.new_dump.vminfo_size;
+               vminfo_offset = vminfo.new_dump.vminfo_offset;
              }
              }
+#ifndef BFD64
            else
              {
            else
              {
-               vminfo_addr = (bfd_vma)(long) vminfo.old.vminfo_addr;
+               vminfo_addr = (bfd_vma) (ptr_to_uint) vminfo.old.vminfo_addr;
                vminfo_size = vminfo.old.vminfo_size;
                vminfo_offset = vminfo.old.vminfo_offset;
              }
                vminfo_size = vminfo.old.vminfo_size;
                vminfo_offset = vminfo.old.vminfo_offset;
              }
+#endif
 
            if (vminfo_offset)
              if (!make_bfd_asection (abfd, ".vmdata",
                                      SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                                      vminfo_size, vminfo_addr,
                                      vminfo_offset))
 
            if (vminfo_offset)
              if (!make_bfd_asection (abfd, ".vmdata",
                                      SEC_ALLOC | SEC_LOAD | SEC_HAS_CONTENTS,
                                      vminfo_size, vminfo_addr,
                                      vminfo_offset))
-               return NULL;
+               goto fail;
          }
       }
   }
 #endif
 
          }
       }
   }
 #endif
 
-  return abfd->xvec;                           /* this is garbage for now. */
-}
+  return abfd->xvec;           /* This is garbage for now.  */
 
 
+ fail:
+  bfd_release (abfd, abfd->tdata.any);
+  abfd->tdata.any = NULL;
+  bfd_section_list_clear (abfd);
+  return NULL;
+}
 
 
+/* Return `TRUE' if given core is from the given executable.  */
 
 
-/* return `true' if given core is from the given executable.. */
-boolean
-rs6000coff_core_file_matches_executable_p (core_bfd, exec_bfd)
-     bfd *core_bfd;
-     bfd *exec_bfd;
+bfd_boolean
+rs6000coff_core_file_matches_executable_p (bfd *core_bfd, bfd *exec_bfd)
 {
   CoreHdr core;
   bfd_size_type size;
   char *path, *s;
   size_t alloc;
   const char *str1, *str2;
 {
   CoreHdr core;
   bfd_size_type size;
   char *path, *s;
   size_t alloc;
   const char *str1, *str2;
-  boolean ret;
+  bfd_boolean ret;
   file_ptr c_loader;
 
   if (!read_hdr (core_bfd, &core))
   file_ptr c_loader;
 
   if (!read_hdr (core_bfd, &core))
-    return false;
+    return FALSE;
 
   if (CORE_NEW (core))
 
   if (CORE_NEW (core))
-    c_loader = CNEW_LOADER (core.new);
+    c_loader = CNEW_LOADER (core.new_dump);
+#ifndef BFD64
   else
   else
-    c_loader = (file_ptr) COLD_LOADER (core.old);
+    c_loader = (file_ptr) (ptr_to_uint) COLD_LOADER (core.old);
+#endif
 
 
-  if (CORE_NEW (core) && CNEW_PROC64 (core.new))
-    size = (int)((LdInfo *)0)->l64.ldinfo_filename;
+  if (CORE_NEW (core) && CNEW_PROC64 (core.new_dump))
+    size = (int) ((LdInfo *) 0)->l64.ldinfo_filename;
   else
   else
-    size = (int)((LdInfo *)0)->l32.ldinfo_filename;
+    size = (int) ((LdInfo *) 0)->l32.ldinfo_filename;
 
   if (bfd_seek (core_bfd, c_loader + size, SEEK_SET) != 0)
 
   if (bfd_seek (core_bfd, c_loader + size, SEEK_SET) != 0)
-    return false;
+    return FALSE;
 
   alloc = 100;
 
   alloc = 100;
-  path = bfd_malloc (alloc);
+  path = bfd_malloc ((bfd_size_type) alloc);
   if (path == NULL)
   if (path == NULL)
-    return false;
+    return FALSE;
   s = path;
 
   while (1)
     {
   s = path;
 
   while (1)
     {
-      if (bfd_read (s, 1, 1, core_bfd) != 1)
+      if (bfd_bread (s, (bfd_size_type) 1, core_bfd) != 1)
        {
          free (path);
        {
          free (path);
-         return false;
+         return FALSE;
        }
       if (*s == '\0')
        break;
        }
       if (*s == '\0')
        break;
@@ -674,11 +747,11 @@ rs6000coff_core_file_matches_executable_p (core_bfd, exec_bfd)
          char *n;
 
          alloc *= 2;
          char *n;
 
          alloc *= 2;
-         n = bfd_realloc (path, alloc);
+         n = bfd_realloc (path, (bfd_size_type) alloc);
          if (n == NULL)
            {
              free (path);
          if (n == NULL)
            {
              free (path);
-             return false;
+             return FALSE;
            }
          s = n + (path - s);
          path = n;
            }
          s = n + (path - s);
          path = n;
@@ -693,9 +766,9 @@ rs6000coff_core_file_matches_executable_p (core_bfd, exec_bfd)
   str2 = str2 != NULL ? str2 + 1 : exec_bfd->filename;
 
   if (strcmp (str1, str2) == 0)
   str2 = str2 != NULL ? str2 + 1 : exec_bfd->filename;
 
   if (strcmp (str1, str2) == 0)
-    ret = true;
+    ret = TRUE;
   else
   else
-    ret = false;
+    ret = FALSE;
 
   free (path);
 
 
   free (path);
 
@@ -703,12 +776,15 @@ rs6000coff_core_file_matches_executable_p (core_bfd, exec_bfd)
 }
 
 char *
 }
 
 char *
-rs6000coff_core_file_failing_command (abfd)
-     bfd *abfd;
+rs6000coff_core_file_failing_command (bfd *abfd)
 {
   CoreHdr *core = core_hdr (abfd);
 {
   CoreHdr *core = core_hdr (abfd);
+#ifndef BFD64
   char *com = CORE_NEW (*core) ?
   char *com = CORE_NEW (*core) ?
-    CNEW_COMM (core->new) : COLD_COMM (core->old);
+    CNEW_COMM (core->new_dump) : COLD_COMM (core->old);
+#else
+  char *com = CNEW_COMM (core->new_dump);
+#endif
 
   if (*com)
     return com;
 
   if (*com)
     return com;
@@ -717,11 +793,14 @@ rs6000coff_core_file_failing_command (abfd)
 }
 
 int
 }
 
 int
-rs6000coff_core_file_failing_signal (abfd)
-     bfd *abfd;
+rs6000coff_core_file_failing_signal (bfd *abfd)
 {
   CoreHdr *core = core_hdr (abfd);
 {
   CoreHdr *core = core_hdr (abfd);
-  return CORE_NEW (*core) ? core->new.c_signo : core->old.c_signo;
+#ifndef BFD64
+  return CORE_NEW (*core) ? core->new_dump.c_signo : core->old.c_signo;
+#else
+  return  core->new_dump.c_signo;
+#endif
 }
 
 #endif /* AIX_CORE */
 }
 
 #endif /* AIX_CORE */
This page took 0.058821 seconds and 4 git commands to generate.