sirve - swing java ejemplos




En Java, ¿cuál es la mejor manera de determinar el tamaño de un objeto? (16)

Cuando trabajé en Twitter, escribí una utilidad para calcular el tamaño de un objeto profundo. Tiene en cuenta diferentes modelos de memoria (32 bits, oops comprimidos, 64 bits), relleno, relleno de subclase, funciona correctamente en estructuras de datos circulares y matrices. Puedes simplemente compilar este archivo .java; No tiene dependencias externas.

https://github.com/twitter/commons/blob/master/src/java/com/twitter/common/objectsize/ObjectSizeCalculator.java

Por ejemplo, digamos que tengo una aplicación que puede leer un archivo CSV con pilas de filas de datos. Le doy al usuario un resumen de la cantidad de filas según los tipos de datos, pero quiero asegurarme de que no leo demasiadas filas de datos y que causo OutOfMemoryError s. Cada fila se traduce en un objeto. ¿Hay una manera fácil de averiguar el tamaño de ese objeto mediante programación? ¿Existe una referencia que defina qué tan grandes son los tipos primitivos y las referencias de objetos para una VM ?

En este momento, tengo un código que dice leer hasta 32,000 filas , pero también me gustaría tener un código que diga leer tantas filas como sea posible hasta que haya usado 32 MB de memoria. Tal vez esa es una pregunta diferente, pero todavía me gustaría saber.


Debe medirlo con una herramienta o estimarlo a mano, y depende de la JVM que esté utilizando.

Hay algunos gastos generales fijos por objeto. Es específico de JVM, pero por lo general calculo 40 bytes. Entonces tienes que mirar a los miembros de la clase. Las referencias de objetos son 4 (8) bytes en una JVM de 32 bits (64 bits). Los tipos primitivos son:

  • booleano y byte: 1 byte
  • Char y short: 2 bytes.
  • int y float: 4 bytes
  • Largo y doble: 8 bytes.

Las matrices siguen las mismas reglas; es decir, es una referencia de objeto por lo que toma 4 (u 8) bytes en su objeto, y luego su longitud se multiplica por el tamaño de su elemento.

Intentar hacerlo programáticamente con llamadas a Runtime.freeMemory() simplemente no le da mucha precisión, debido a las llamadas asíncronas al recolector de basura, etc. Perfilar el montón con -Xrunhprof u otras herramientas le dará los resultados más precisos.


En primer lugar, "el tamaño de un objeto" no es un concepto bien definido en Java. Podría significar el objeto en sí, con solo sus miembros, el objeto y todos los objetos a los que hace referencia (el gráfico de referencia). Podría significar el tamaño en la memoria o el tamaño en el disco. Y a la JVM se le permite optimizar cosas como Strings.

Entonces, la única forma correcta es preguntar a la JVM, con un buen generador de perfiles (yo uso YourKit ), que probablemente no sea lo que quieres.

Sin embargo, a partir de la descripción anterior, parece que cada fila será independiente y no tendrá un gran árbol de dependencias, por lo que el método de serialización probablemente sea una buena aproximación en la mayoría de las JVM. La forma más fácil de hacer esto es la siguiente:

 Serializable ser;
 ByteArrayOutputStream baos = new ByteArrayOutputStream();
 ObjectOutputStream oos = new ObjectOutputStream(baos);
 oos.writeObject(ser);
 oos.close();
 return baos.size();

Recuerde que si tiene objetos con referencias comunes, esto no dará el resultado correcto y el tamaño de la serialización no siempre coincidirá con el tamaño de la memoria, pero es una buena aproximación. El código será un poco más eficiente si inicializa el tamaño de ByteArrayOutputStream a un valor razonable.


Encontré accidentalmente una clase java "jdk.nashorn.internal.ir.debug.ObjectSizeCalculator", ya en jdk, que es fácil de usar y parece bastante útil para determinar el tamaño de un objeto.

System.out.println(ObjectSizeCalculator.getObjectSize(new gnu.trove.map.hash.TObjectIntHashMap<String>(12000, 0.6f, -1)));
System.out.println(ObjectSizeCalculator.getObjectSize(new HashMap<String, Integer>(100000)));
System.out.println(ObjectSizeCalculator.getObjectSize(3));
System.out.println(ObjectSizeCalculator.getObjectSize(new int[]{1, 2, 3, 4, 5, 6, 7 }));
System.out.println(ObjectSizeCalculator.getObjectSize(new int[100]));

resultados:

164192
48
16
48
416

La clase java.lang.instrument.Instrumentation proporciona una buena manera de obtener el tamaño de un objeto Java, pero requiere que premain una premain y premain tu programa con un agente java. Esto es muy aburrido cuando no necesita ningún agente y luego debe proporcionar un agente Jar ficticio a su aplicación.

Así que obtuve una solución alternativa utilizando la clase Unsafe de sun.misc . Por lo tanto, considerando la alineación del montón de objetos de acuerdo con la arquitectura del procesador y calculando el desplazamiento máximo del campo, puede medir el tamaño de un objeto Java. En el siguiente ejemplo, uso una clase auxiliar UtilUnsafe para obtener una referencia al objeto sun.misc.Unsafe .

private static final int NR_BITS = Integer.valueOf(System.getProperty("sun.arch.data.model"));
private static final int BYTE = 8;
private static final int WORD = NR_BITS/BYTE;
private static final int MIN_SIZE = 16; 

public static int sizeOf(Class src){
    //
    // Get the instance fields of src class
    // 
    List<Field> instanceFields = new LinkedList<Field>();
    do{
        if(src == Object.class) return MIN_SIZE;
        for (Field f : src.getDeclaredFields()) {
            if((f.getModifiers() & Modifier.STATIC) == 0){
                instanceFields.add(f);
            }
        }
        src = src.getSuperclass();
    }while(instanceFields.isEmpty());
    //
    // Get the field with the maximum offset
    //  
    long maxOffset = 0;
    for (Field f : instanceFields) {
        long offset = UtilUnsafe.UNSAFE.objectFieldOffset(f);
        if(offset > maxOffset) maxOffset = offset; 
    }
    return  (((int)maxOffset/WORD) + 1)*WORD; 
}
class UtilUnsafe {
    public static final sun.misc.Unsafe UNSAFE;

    static {
        Object theUnsafe = null;
        Exception exception = null;
        try {
            Class<?> uc = Class.forName("sun.misc.Unsafe");
            Field f = uc.getDeclaredField("theUnsafe");
            f.setAccessible(true);
            theUnsafe = f.get(uc);
        } catch (Exception e) { exception = e; }
        UNSAFE = (sun.misc.Unsafe) theUnsafe;
        if (UNSAFE == null) throw new Error("Could not obtain access to sun.misc.Unsafe", exception);
    }
    private UtilUnsafe() { }
}

Muchas de las otras respuestas proporcionan tamaños poco profundos, por ejemplo, el tamaño de un HashMap sin ninguna de las claves o valores, que no es lo que probablemente desea.

El proyecto jamm utiliza el paquete java.lang.instrumentation anterior, pero recorre el árbol y, por lo tanto, puede proporcionarle un uso profundo de la memoria.

new MemoryMeter().measureDeep(myHashMap);

https://github.com/jbellis/jamm


Recomiendo la biblioteca java-sizeof para la carrotsearch de carrotsearch . Es muy simple.

Puedes conseguirlo en maven:

<dependency>
    <groupId>com.carrotsearch</groupId>
    <artifactId>java-sizeof</artifactId>
    <version>0.0.3</version>
</dependency>

Solo una línea de código devuelve los bytes de un objeto:

RamUsageEstimator.sizeOf(new Object());

Puedes ver el código fuente en Github

Y here hay una presentación del autor de la biblioteca.


Si solo desea saber cuánta memoria se está utilizando en su JVM y cuánta es gratuita, puede probar algo como esto:

// Get current size of heap in bytes
long heapSize = Runtime.getRuntime().totalMemory();

// Get maximum size of heap in bytes. The heap cannot grow beyond this size.
// Any attempt will result in an OutOfMemoryException.
long heapMaxSize = Runtime.getRuntime().maxMemory();

// Get amount of free memory within the heap in bytes. This size will increase
// after garbage collection and decrease as new objects are created.
long heapFreeSize = Runtime.getRuntime().freeMemory();

Edición: pensé que esto podría ser útil ya que la pregunta del autor también dijo que le gustaría tener una lógica que maneje "leer tantas filas como sea posible hasta que haya usado 32 MB de memoria".


Escribí una prueba rápida una vez para estimar sobre la marcha:

public class Test1 {

    // non-static nested
    class Nested { }

    // static nested
    static class StaticNested { }

    static long getFreeMemory () {
        // waits for free memory measurement to stabilize
        long init = Runtime.getRuntime().freeMemory(), init2;
        int count = 0;
        do {
            System.out.println("waiting..." + init);
            System.gc();
            try { Thread.sleep(250); } catch (Exception x) { }
            init2 = init;
            init = Runtime.getRuntime().freeMemory();
            if (init == init2) ++ count; else count = 0;
        } while (count < 5);
        System.out.println("ok..." + init);
        return init;
    }

    Test1 () throws InterruptedException {

        Object[] s = new Object[10000];
        Object[] n = new Object[10000];
        Object[] t = new Object[10000];

        long init = getFreeMemory();

        //for (int j = 0; j < 10000; ++ j)
        //    s[j] = new Separate();

        long afters = getFreeMemory();

        for (int j = 0; j < 10000; ++ j)
            n[j] = new Nested();

        long aftersn = getFreeMemory();

        for (int j = 0; j < 10000; ++ j)
            t[j] = new StaticNested();

        long aftersnt = getFreeMemory();

        System.out.println("separate:      " + -(afters - init) + " each=" + -(afters - init) / 10000);
        System.out.println("nested:        " + -(aftersn - afters) + " each=" + -(aftersn - afters) / 10000);
        System.out.println("static nested: " + -(aftersnt - aftersn) + " each=" + -(aftersnt - aftersn) / 10000);

    }

    public static void main (String[] args) throws InterruptedException {
        new Test1();
    }

}

El concepto general es asignar objetos y medir el cambio en el espacio de almacenamiento dinámico libre. La clave es getFreeMemory(), que solicita que GC se ejecute y espere a que se estabilice el tamaño de pila libre reportado . La salida de lo anterior es:

nested:        160000 each=16
static nested: 160000 each=16

Que es lo que esperamos, dado el comportamiento de alineación y la posible sobrecarga del encabezado del bloque de almacenamiento dinámico.

El método de instrumentación detallado en la respuesta aceptada aquí es el más preciso. El método que describí es preciso pero solo en condiciones controladas donde ningún otro subproceso está creando / descartando objetos.


Para JSONObject el siguiente código puede ayudarte.

`JSONObject.toString().getBytes("UTF-8").length`

devuelve el tamaño en bytes

Lo comprobé con mi objeto JSONArray escribiéndolo en un archivo. Está dando el tamaño del objeto.


Sin tener que meterse con la instrumentación, etc., y si no necesita saber el tamaño exacto de un objeto, puede utilizar el siguiente enfoque:

System.gc();
Runtime.getRuntime().totalMemory() - Runtime.getRuntime().freeMemory();

do your job here

System.gc();
Runtime.getRuntime().totalMemory() - Runtime.getRuntime().freeMemory();

De esta manera usted lee la memoria usada antes y después, y al llamar al GC justo antes de obtener la memoria usada, baja el "ruido" casi a 0.

Para un resultado más confiable, puede ejecutar su trabajo n veces, y luego dividir la memoria utilizada por n, obteniendo la cantidad de memoria que se necesita para una ejecución. Aún más, puedes correrlo todo más veces y hacer un promedio.


Aquí hay una utilidad que hice usando algunos de los ejemplos vinculados para manejar 32 bits, 64 bits y 64 bits con OOP comprimido. Utiliza sun.misc.Unsafe.

Se utiliza Unsafe.addressSize()para obtener el tamaño de un puntero nativo y Unsafe.arrayIndexScale( Object[].class )para el tamaño de una referencia de Java.

Utiliza el desplazamiento de campo de una clase conocida para calcular el tamaño base de un objeto.

import java.lang.reflect.Array;
import java.lang.reflect.Field;
import java.lang.reflect.Modifier;
import java.util.IdentityHashMap;
import java.util.Stack;
import sun.misc.Unsafe;

/** Usage: 
 * MemoryUtil.sizeOf( object )
 * MemoryUtil.deepSizeOf( object )
 * MemoryUtil.ADDRESS_MODE
 */
public class MemoryUtil
{
    private MemoryUtil()
    {
    }

    public static enum AddressMode
    {
        /** Unknown address mode. Size calculations may be unreliable. */
        UNKNOWN,
        /** 32-bit address mode using 32-bit references. */
        MEM_32BIT,
        /** 64-bit address mode using 64-bit references. */
        MEM_64BIT,
        /** 64-bit address mode using 32-bit compressed references. */
        MEM_64BIT_COMPRESSED_OOPS
    }

    /** The detected runtime address mode. */
    public static final AddressMode ADDRESS_MODE;

    private static final Unsafe UNSAFE;

    private static final long ADDRESS_SIZE; // The size in bytes of a native pointer: 4 for 32 bit, 8 for 64 bit
    private static final long REFERENCE_SIZE; // The size of a Java reference: 4 for 32 bit, 4 for 64 bit compressed oops, 8 for 64 bit
    private static final long OBJECT_BASE_SIZE; // The minimum size of an Object: 8 for 32 bit, 12 for 64 bit compressed oops, 16 for 64 bit
    private static final long OBJECT_ALIGNMENT = 8;

    /** Use the offset of a known field to determine the minimum size of an object. */
    private static final Object HELPER_OBJECT = new Object() { byte b; };


    static
    {
        try
        {
            // Use reflection to get a reference to the 'Unsafe' object.
            Field f = Unsafe.class.getDeclaredField( "theUnsafe" );
            f.setAccessible( true );
            UNSAFE = (Unsafe) f.get( null );

            OBJECT_BASE_SIZE = UNSAFE.objectFieldOffset( HELPER_OBJECT.getClass().getDeclaredField( "b" ) );

            ADDRESS_SIZE = UNSAFE.addressSize();
            REFERENCE_SIZE = UNSAFE.arrayIndexScale( Object[].class );

            if( ADDRESS_SIZE == 4 )
            {
                ADDRESS_MODE = AddressMode.MEM_32BIT;
            }
            else if( ADDRESS_SIZE == 8 && REFERENCE_SIZE == 8 )
            {
                ADDRESS_MODE = AddressMode.MEM_64BIT;
            }
            else if( ADDRESS_SIZE == 8 && REFERENCE_SIZE == 4 )
            {
                ADDRESS_MODE = AddressMode.MEM_64BIT_COMPRESSED_OOPS;
            }
            else
            {
                ADDRESS_MODE = AddressMode.UNKNOWN;
            }
        }
        catch( Exception e )
        {
            throw new Error( e );
        }
    }


    /** Return the size of the object excluding any referenced objects. */
    public static long shallowSizeOf( final Object object )
    {
        Class<?> objectClass = object.getClass();
        if( objectClass.isArray() )
        {
            // Array size is base offset + length * element size
            long size = UNSAFE.arrayBaseOffset( objectClass )
                    + UNSAFE.arrayIndexScale( objectClass ) * Array.getLength( object );
            return padSize( size );
        }
        else
        {
            // Object size is the largest field offset padded out to 8 bytes
            long size = OBJECT_BASE_SIZE;
            do
            {
                for( Field field : objectClass.getDeclaredFields() )
                {
                    if( (field.getModifiers() & Modifier.STATIC) == 0 )
                    {
                        long offset = UNSAFE.objectFieldOffset( field );
                        if( offset >= size )
                        {
                            size = offset + 1; // Field size is between 1 and PAD_SIZE bytes. Padding will round up to padding size.
                        }
                    }
                }
                objectClass = objectClass.getSuperclass();
            }
            while( objectClass != null );

            return padSize( size );
        }
    }


    private static final long padSize( final long size )
    {
        return (size + (OBJECT_ALIGNMENT - 1)) & ~(OBJECT_ALIGNMENT - 1);
    }


    /** Return the size of the object including any referenced objects. */
    public static long deepSizeOf( final Object object )
    {
        IdentityHashMap<Object,Object> visited = new IdentityHashMap<Object,Object>();
        Stack<Object> stack = new Stack<Object>();
        if( object != null ) stack.push( object );

        long size = 0;
        while( !stack.isEmpty() )
        {
            size += internalSizeOf( stack.pop(), stack, visited );
        }
        return size;
    }


    private static long internalSizeOf( final Object object, final Stack<Object> stack, final IdentityHashMap<Object,Object> visited )
    {
        // Scan for object references and add to stack
        Class<?> c = object.getClass();
        if( c.isArray() && !c.getComponentType().isPrimitive() )
        {
            // Add unseen array elements to stack
            for( int i = Array.getLength( object ) - 1; i >= 0; i-- )
            {
                Object val = Array.get( object, i );
                if( val != null && visited.put( val, val ) == null )
                {
                    stack.add( val );
                }
            }
        }
        else
        {
            // Add unseen object references to the stack
            for( ; c != null; c = c.getSuperclass() )
            {
                for( Field field : c.getDeclaredFields() )
                {
                    if( (field.getModifiers() & Modifier.STATIC) == 0 
                            && !field.getType().isPrimitive() )
                    {
                        field.setAccessible( true );
                        try
                        {
                            Object val = field.get( object );
                            if( val != null && visited.put( val, val ) == null )
                            {
                                stack.add( val );
                            }
                        }
                        catch( IllegalArgumentException e )
                        {
                            throw new RuntimeException( e );
                        }
                        catch( IllegalAccessException e )
                        {
                            throw new RuntimeException( e );
                        }
                    }
                }
            }
        }

        return shallowSizeOf( object );
    }
}

Esta respuesta no está relacionada con el tamaño del objeto, pero cuando se usa una matriz para acomodar los objetos; la cantidad de memoria que asignará para el objeto.

Por lo tanto, las matrices, la lista o el mapa de todas esas colecciones no van a almacenar objetos realmente (solo en el momento de las primitivas, se necesita el tamaño real de la memoria de objetos), solo almacenará referencias para esos objetos.

Ahora el Used heap memory = sizeOfObj + sizeOfRef (* 4 bytes) in collection

  • (4/8 bytes) depende del sistema operativo (32/64 bit)

Primitivas

int   [] intArray    = new int   [1]; will require 4 bytes.
long  [] longArray   = new long  [1]; will require 8 bytes.

OBJETOS

Object[] objectArray = new Object[1]; will require 4 bytes. The object can be any user defined Object.
Long  [] longArray   = new Long  [1]; will require 4 bytes.

Quiero decir que todo el objeto REFERENCE necesita solo 4 bytes de memoria. Puede ser una referencia de cadena O una doble referencia de objeto, pero dependiendo de la creación del objeto, la memoria necesaria variará.

por ejemplo) Si creo un objeto para la siguiente clase, ReferenceMemoryTestse crearán 4 + 4 + 4 = 12 bytes de memoria. La memoria puede diferir cuando intenta inicializar las referencias.

 class ReferenceMemoryTest {
    public String refStr;
    public Object refObj;
    public Double refDoub; 
}

Entonces, cuando se crea una matriz de objetos / referencias, todo su contenido estará ocupado con referencias NULL. Y sabemos que cada referencia requiere 4 bytes.

Y finalmente, la asignación de memoria para el siguiente código es de 20 bytes.

ReferenceMemoryTest ref1 = new ReferenceMemoryTest (); (4 (ref1) + 12 = 16 bytes) ReferenceMemoryTest ref2 = ref1; (4 (ref2) + 16 = 20 bytes)


Mi respuesta se basa en el código proporcionado por Nick. Ese código mide la cantidad total de bytes que ocupa el objeto serializado. Por lo tanto, esto mide realmente la huella de la serialización + la huella de la memoria del objeto simple (solo serializar, por ejemplo, inty verá que la cantidad total de bytes serializados no lo es 4). Por lo tanto, si desea obtener el número de byte sin procesar utilizado exactamente para su objeto, debe modificar ese código un poco. Al igual que:

import java.io.ByteArrayOutputStream;
import java.io.ObjectOutputStream;
import java.io.Serializable;

public class ObjectSizeCalculator {
    private Object getFirstObjectReference(Object o) {
        String objectType = o.getClass().getTypeName();

        if (objectType.substring(objectType.length()-2).equals("[]")) {
            try {
                if (objectType.equals("java.lang.Object[]"))
                    return ((Object[])o)[0];
                else if (objectType.equals("int[]"))
                    return ((int[])o)[0];
                else
                    throw new RuntimeException("Not Implemented !");
            } catch (IndexOutOfBoundsException e) {
                return null;
            }
        }

        return o;
    } 

    public int getObjectSizeInBytes(Object o) {
        final String STRING_JAVA_TYPE_NAME = "java.lang.String";

        if (o == null)
            return 0;

        String objectType = o.getClass().getTypeName();
        boolean isArray = objectType.substring(objectType.length()-2).equals("[]");

        Object objRef = getFirstObjectReference(o);
        if (objRef != null && !(objRef instanceof Serializable))
            throw new RuntimeException("Object must be serializable for measuring it's memory footprint using this method !");

        try {
            ByteArrayOutputStream baos = new ByteArrayOutputStream();
            ObjectOutputStream oos = new ObjectOutputStream(baos);
            oos.writeObject(o);
            oos.close();
            byte[] bytes = baos.toByteArray();

            for (int i = bytes.length - 1, j = 0; i != 0; i--, j++) {
                if (objectType != STRING_JAVA_TYPE_NAME) {
                    if (bytes[i] == 112)
                        if (isArray)
                            return j - 4;
                        else
                            return j;
                } else {
                    if (bytes[i] == 0)
                        return j - 1;
                }
            }
        } catch (Exception e) {
            return -1;
        }

        return -1;
    }    

}

He probado esta solución con tipos primitivos, String y en algunas clases triviales. Puede que no haya casos cubiertos también.


ACTUALIZACIÓN: Ejemplo modificado para admitir el cálculo de la huella de memoria de los objetos de matriz.


Podría generar un volcado de pila (con jmap, por ejemplo) y luego analizar la salida para encontrar tamaños de objetos. Esta es una solución fuera de línea, pero puede examinar tamaños poco profundos y profundos, etc.


También está la herramienta Memory Measurer (anteriormente en Google Code , ahora en GitHub ), que es simple y se publica bajo la licencia Apache 2.0 , que es fácil de usar y comercial , como se explica en una pregunta similar .

También requiere un argumento de línea de comandos para el intérprete java si desea medir el consumo de bytes de memoria, pero por lo demás parece funcionar bien, al menos en los escenarios que lo he usado.







memory