Cargar campos “COBOL BINARY” con Multiload.

22 febrero \22\UTC 2017

Análogamente a los tipos COBOL ‘packed decimal’ que corresponden con tipos SQL DECIMAL(n, m), los tipos BINARY corresponden a tipos enteros SQL: SMALLINT (2 bytes), INTEGER (4 bytes) y BIGINT (8 bytes).

En multiload, definiendo los .FIELD adecuados en el .LAYOUT conseguiremos una carga sin errores:

...
.LAYOUT THE_LAYOUT;
...
.FIELD binary_field2  SMALLINT;
.FIELD binary_field4  INTEGER;
.FIELD binary_field8  BIGINT;
...

Pero ¿qué ocurre cuando el ‘PIC’ del campo BINARY indica que tiene decimales? Como en el caso de los ‘packed decimals‘ los decimales no se guardan en los campos BINARY, sino que se resuelven con los ‘PICTURES’ (PIC). Así pues, nos podemos encontrar, por ejemplo, un BINARY con un PIC S9(3)V9(6).
A diferencia de con los ‘packed decimals’ o los BINARY enteros, no podemos apoyarnos en la funcionalidad de multiload para la conversión directa, ya que no hay un tipo ‘SQL’ equivalente para BINARY con decimales.

Por eso lo debemos solucionar en dos pasos:

Primero definimos el .FIELD adecuado en el .LAYOUT. Si el campo es, por ejemplo, BINARY PIC S9(3)V9(6) entonces ocupará 4 bytes, y por tanto corresponderá a un tipo INTEGER. Así pues, en el ‘script‘ de multiload:

...
.LAYOUT THE_LAYOUT;
...
.FIELD binary_field4  INTEGER;
...

(Recordemos que según el tamaño del campo deberíamos haberlo definido como SMALLINT, INTEGER o BIGINT).

Una vez hecho esto deberemos insertarlo en la columna de la tabla correspondiente (que deberá ser DECIMAL(9, 6)). Es aquí donde haremos el CAST (implícito).

Más abajo en el mismo ‘script‘ de multiload, haciendo:

...
INSERT INTO MY_DB.MY_TABLE( ..., MY_COLUMN, ...) 
VALUES(..., :binary_field4/1000000.000000, ...);
...

conseguimos que el :binary_field4, que hemos cargado como INTEGER según el .LAYOUT se almacene en la columna como DECIMAL(9, 6) obedeciendo al ‘PIC’. Es muy importante definir el denominador con el número de decimales adecuado (en nuestro caso seis), porque si no se producirá un CAST erróneo que provocará truncamiento y nos dará un resultado incorrecto.

Saludos.

Carlos.


Cargando ceros binarios en un campo “packed decimal” como nulos.

8 noviembre \08\UTC 2016

Siguiendo con los campos “COBOL Comp-3 (Packed Decimals)” y Multiload, se nos ha presentado un problema a la hora de cargar ficheros en un HOST IBM.

El asunto consistía en que había un campo “packed decimal” con tipo DECIMAL(9,0). Siguiendo lo visto aquí, hicimos un script:

.LAYOUT DATAIN;
  .FIELD field_1
  ...
  .FIELD field_n * DECIMAL(9,0);
  ...

Pero es que, además, nos dijeron que deberíamos cargar un NULL si el campo “llegaba a cero”.

OK. No problem. Hay dos alternativas. En la definición del “layout” haciendo:

.LAYOUT DATAIN;
  ...
  .FIELD field_n * DECIMAL(9,0) NULLIF field_n=0;
  ...
  
o, sin el NULLIF del LAYOUT, resolviendo en la parte del INSERT:

   INSERT INTO ...
   ...
   COLUMN_N,
   ...
   )VALUES(
   ...
   NULLIFZERO(:field_n),
   ...
   );

Los problemas se presentaron cuando comenzaron a aparecer errores en las ejecuciones de multiload.
Cuando se utilizaba la opción 1 (NULLIF en el LAYOUT) multiload se quejaba con:

"UTY2203 Unable to process input data: INVALID DECIMAL DATA DURING COMPARISON."

Y cuando se usaba la opción 2 (NULLIFZERO) las filas iban a la tabla de errores ET_ reportando errores:

2679 "The format or data contains a bad character."

Tras los lógicos primeros momentos de estupefacción, echamos un vistazo al fichero con un editor hexadecimal y vimos que en el campo problemático no estaba llegando un “packed decimal” cero, sino que estaban llegando cinco bytes ceros binarios.
Ahí está el problema. Según vimos aquí, el formato de un “packed decimal” incluye un último “nibble” para el signo (C, D, o F), y en nuestro caso el signo brilla por su ausencia… Multiload simplemente no puede hacer el CAST(), pues lo que le hemos dicho que es un “packed decimal” no lo es.

Así que nos pusimos a pensar y pensar, y finalmente dimos con una solución.

Si duplicamos el campo con dos tipos diferentes (el DECIMAL(9,0) y uno previo auxiliar como BYTE(5)), tratando el campo ‘bueno’ (DECIMAL(9,0)) con un NULLIF sobre el campo ‘BYTE(5)’ se evita el CAST problemático y el multiload funciona OK. Hay que tener en cuenta que en el LAYOUT necesitamos fijar explícitamente la posición del campo en el fichero (en el ejemplo, posición nnn).

En el .LAYOUT hacemos:

      .FIELD field_n_b nnn BYTE(5);
      .FIELD field_n   nnn DECIMAL(9,0) NULLIF field_n_b='0000000000'xB;

En el INSERT no hace falta el NULLIFZERO() porque el campo ya fue tratado en el LAYOUT:

Esto funciona también en entornos Linux/UNIX/Windows.

Si tenemos una tabla:

CREATE MULTISET TABLE CARLOS.PRUEBA_NULLIF_DATE
   (
      ID_N   INTEGER NOT NULL,
      D_DATE DATE
   )
;

Y un fichero en el el campo de fecha puede traer ceros binarios (10 bytes 0x00, representados por · ),

12016-11-07
22016-11-08
3··········          
42016-11-09

podemos cargarlo haciendo un script multiload:

.DATEFORM ANSIDATE; 

.LOGTABLE CARLOS.PRUEBA_NULLIF_DATE_LOG;

.LOGON MY_DB/carlos,**********;

.BEGIN IMPORT MLOAD TABLES CARLOS.PRUEBA_NULLIF_DATE;

.DML LABEL INSERTAR_PRUEBA_NULLIF_DATE;
INSERT INTO CARLOS.PRUEBA_NULLIF_DATE VALUES(
	:id_n,
	:d_date)
;

.LAYOUT INSERTAR;
	.FIELD id_n     1 CHAR(1);
        .FIELD d_date_b 2 BYTE(10);
	.FIELD d_date   2 DATE NULLIF d_date_b = '00000000000000000000'xB;

.IMPORT INFILE .\Ficheros\Prueba_NULLIF_DATE.txt FORMAT TEXT
 LAYOUT INSERTAR
  APPLY INSERTAR_PRUEBA_NULLIF_DATE;

.END MLOAD;

.LOGOFF;

Lo que subyace es el hecho de que el NULLIF se resuelve con el FIELD tipo BYTE anterior ANTES de hacer el CAST del campo sobre el que se actúa, con lo que ni siquiera se hace el CAST y no falla en la conversión de tipos.

Saludos.

Carlos.


Cargar campos “COBOL Comp-3 (Packed Decimals)” con Multiload.

6 octubre \06\UTC 2016

Teradata permite conexión directa entre entornos “mainframe” y sistemas Teradata mediante conexiones FICON. Esto significa que se pueden instalar las TTU’s en dichos “mainframes” y cargar directamente datos desde ficheros que existan allí sin necesidad de hacer ftp’s a entornos UNIX, Linux o Windows, con lo engorroso que puede ser el ftp en sí, por no hablar de las conversiones EBCDIC / ASCII…

El problema viene cuando los ficheros en cuestión contienen campos “Comp-3” (Computational-3), también llamados “packed decimals“.

Pero ¿qué son exactamente estos “Comp-3”?

“Comp-3” es una forma de almacenamiento de datos numéricos en COBOL en formato BCD (binary coded decimal). El BCD almacena numeros en formato DECIMAL y,como los números decimales van de 0 a 9, caben en cuatro bits (es lo que se llama un ‘nibble‘) con lo que en un byte caben dos números (ej.: byte 11, en bin 00010001 => almacena el 11 decimal). Esto hace que los datos ocupen la mitad de lo que ocuparían como caracteres (un byte por cada dígito).

A esto hay que sumarle que el último nibble (el menos significativo) se guarda para el signo, y se notan como “C” hex para positivos, “D” hex para negativos y “F” hex para “unsigned“. Así el número 1000 se guardará en tres bytes como 01 00 0C.

Para calcular lo que ocupará un número en Comp-3 bastará con contar sus dígitos, sumarle uno para el signo y dividir por dos. En caso de que el resultado no sea entero se redondea hacia arriba. En nuestro ejemplo anterior: 1000 => (4+1)/2 = 2,5 y se redondea a 3.

OK, pero ¿cómo se guardan los decimales? pues NO se guardan, sino que se resuelven con los ‘PICTURES’ (PIC). Siguiendo con nuestro ejemplo, si el campo es definido como ‘PIC S9(4)’, será 1000, pero si lo definimos como PIC S9(2)V99 se convertirá en 10.00.

Vale. Ahora ya sabemos lo que son pero ¿cómo los cargamos con Multiload?

Un poco de calma. Antes vamos ver cómo nosotros linuxeros y windowseros hemos adquirido vicios a la hora de cargar ficheros, en este caso con multiload, y más tarde nos daremos cuenta de que las cosas son más fáciles de lo que parecen…

¿Qué hacemos normalmente para cargar ficheros? Pues normalmente elegimos entre ficheros “TEXT” (de registros de longitud fija) y ficheros “VARTEXT” (registros de longitud variable con separadores de campo). Y a la hora de definir el LAYOUT definimos generalmente campos CHAR() o VARCHAR() donde colocar la información de los campos del fichero, que suelen llegar en forma de texto (ASCII, o UTF8, o lo que sea…). El objeto de esto es que el LAYOUT guarde la información en texto y que los cambios de tipo (CASTs) se resuelvan a la hora de la inserción final en las tablas.

Esto funciona generalmente muy bien, pero hace que olvidemos cómo funciona el multiload (en realidad el dataconector o “PIOM” para los más viejos).

Vamos a ver un ejemplo:

Tenemos un fichero Prueba.txt de longitud fija (4 bytes por registro) que tiene:

1UNO
2DOS

Tenemos una tabla para cargar dicho fichero:

 BTEQ -- Enter your SQL request or BTEQ command: 
DROP TABLE CARLOS.PRUEBA_TEXT;
CREATE MULTISET TABLE CARLOS.PRUEBA_TEXT
   (
      ID_N  INTEGER NOT NULL,
      C_TXT CHAR(3)
   )
;

 *** Failure 3807 Object 'CARLOS.PRUEBA_TEXT' does not exist.
                Statement# 1, Info =0 
 *** Total elapsed time was 1 second.


 BTEQ -- Enter your SQL request or BTEQ command: 


 *** Table has been created. 
 *** Total elapsed time was 1 second.

Creamos el script de multiload:

.LOGTABLE CARLOS.PRUEBA_TEXT_LOG;

.LOGON MyTdpId/carlos,MyPassword;

.BEGIN IMPORT MLOAD TABLES CARLOS.PRUEBA_TEXT;

.DML LABEL INSERTAR_PRUEBA_TEXT;
INSERT INTO CARLOS.PRUEBA_TEXT VALUES(
	:id_n,
	:c_txt)
;

.LAYOUT INSERTAR;
	.FIELD id_n    1 CHAR(1);
	.FIELD c_txt   * CHAR(3);

.IMPORT INFILE Prueba.txt FORMAT TEXT
 LAYOUT INSERTAR
  APPLY INSERTAR_PRUEBA_TEXT;

.END MLOAD;

.LOGOFF;

Y lo ejecutamos. Acaba (sin errores):

...
     Target table 1: CARLOS.PRUEBA_TEXT
     Number of Rows        Error Table Name
     ====================  ==================================================
                        0  CARLOS.ET_PRUEBA_TEXT
                        0  CARLOS.UV_PRUEBA_TEXT

**** 19:19:13 UTY0817 MultiLoad submitting the following request:
     BEGIN TRANSACTION;
**** 19:19:13 UTY0817 MultiLoad submitting the following request:
     USING Ckpt(VARBYTE(1024)) INS CARLOS.PRUEBA_TEXT_LOG (LogType, Seq,
     MLoadCkpt)VALUES(140, 1, :Ckpt);
**** 19:19:13 UTY0817 MultiLoad submitting the following request:
     INS CARLOS.PRUEBA_TEXT_LOG (LogType, Seq) VALUES (125, 1)
**** 19:19:13 UTY0817 MultiLoad submitting the following request:
     END TRANSACTION;
**** 19:19:13 UTY0822 MultiLoad processing complete for this MultiLoad import
     task.
     ========================================================================
     =                                                                      =
     =          MultiLoad Task Complete                                     =
     =                                                                      =
     ========================================================================
**** 19:19:13 UTY1024 Session modal request, 'SET
     QUERY_BAND='UTILITYNAME=MULTLOAD;' UPDATE FOR SESSION;', re-executed.
     ========================================================================
     =                                                                      =
     =          Processing Control Statements                               =
     =                                                                      =
     ========================================================================

0011 .LOGOFF;
     ========================================================================
     =                                                                      =
     =          Logoff/Disconnect                                           =
     =                                                                      =
     ========================================================================
**** 19:19:14 UTY6216 The restart log table has been dropped.
**** 19:19:14 UTY6212 A successful disconnect was made from the RDBMS.
**** 19:19:14 UTY2410 Total processor time used = '0.265202 Seconds'
     .       Start : 19:19:04 - THU OCT 06, 2016
     .       End   : 19:19:14 - THU OCT 06, 2016
     .       Highest return code encountered = '0'.

Si vemos lo que hemos cargado:

 BTEQ -- Enter your SQL request or BTEQ command: 
SELECT * FROM CARLOS.PRUEBA_TEXT ORDER BY 1;


 *** Query completed. 2 rows found. 2 columns returned. 
 *** Total elapsed time was 1 second.

       ID_N  C_TXT
-----------  -----
          1  UNO
          2  DOS

Todo correcto, pues. Pero vamos a cambiar un poco el script de multiload. Vamos a cambiar en el LAYOUT el campo id_n de CHAR(1) a DECIMAL(1) (que también ocupa 1 byte):

.LOGTABLE CARLOS.PRUEBA_TEXT_LOG;

.LOGON MyTdpId/carlos,MyPassword;

.BEGIN IMPORT MLOAD TABLES CARLOS.PRUEBA_TEXT;

.DML LABEL INSERTAR_PRUEBA_TEXT;
INSERT INTO CARLOS.PRUEBA_TEXT VALUES(
	:id_n,
	:c_txt)
;

.LAYOUT INSERTAR;
	.FIELD id_n    1 DECIMAL(1);
	.FIELD c_txt   * CHAR(3);

.IMPORT INFILE Prueba.txt FORMAT TEXT
 LAYOUT INSERTAR
  APPLY INSERTAR_PRUEBA_TEXT;

.END MLOAD;

.LOGOFF;

Una nueva ejecución (otra vez sin errores):

     Target table 1: CARLOS.PRUEBA_TEXT
     Number of Rows        Error Table Name
     ====================  ==================================================
                        0  CARLOS.ET_PRUEBA_TEXT
                        0  CARLOS.UV_PRUEBA_TEXT

**** 19:22:08 UTY0817 MultiLoad submitting the following request:
     BEGIN TRANSACTION;
**** 19:22:08 UTY0817 MultiLoad submitting the following request:
     USING Ckpt(VARBYTE(1024)) INS CARLOS.PRUEBA_TEXT_LOG (LogType, Seq,
     MLoadCkpt)VALUES(140, 1, :Ckpt);
**** 19:22:08 UTY0817 MultiLoad submitting the following request:
     INS CARLOS.PRUEBA_TEXT_LOG (LogType, Seq) VALUES (125, 1)
**** 19:22:08 UTY0817 MultiLoad submitting the following request:
     END TRANSACTION;
**** 19:22:08 UTY0822 MultiLoad processing complete for this MultiLoad import
     task.
     ========================================================================
     =                                                                      =
     =          MultiLoad Task Complete                                     =
     =                                                                      =
     ========================================================================
**** 19:22:08 UTY1024 Session modal request, 'SET
     QUERY_BAND='UTILITYNAME=MULTLOAD;' UPDATE FOR SESSION;', re-executed.
     ========================================================================
     =                                                                      =
     =          Processing Control Statements                               =
     =                                                                      =
     ========================================================================

0011 .LOGOFF;
     ========================================================================
     =                                                                      =
     =          Logoff/Disconnect                                           =
     =                                                                      =
     ========================================================================
**** 19:22:09 UTY6216 The restart log table has been dropped.
**** 19:22:09 UTY6212 A successful disconnect was made from the RDBMS.
**** 19:22:09 UTY2410 Total processor time used = '0.296402 Seconds'
     .       Start : 19:22:00 - THU OCT 06, 2016
     .       End   : 19:22:09 - THU OCT 06, 2016
     .       Highest return code encountered = '0'.

Verificamos los datos en la tabla:

 BTEQ -- Enter your SQL request or BTEQ command: 
SELECT * FROM CARLOS.PRUEBA_TEXT ORDER BY 1;


 *** Query completed. 4 rows found. 2 columns returned. 
 *** Total elapsed time was 1 second.

       ID_N  C_TXT
-----------  -----
          1  UNO
          2  DOS
         49  UNO
         50  DOS

¡Hey! ¿Qué son ese 49 y ese 50? Pues ni más ni menos que los códigos decimales ASCII correspondientes a los dígitos ‘1’ y ‘2’. Al definir el campo (.FIELD) como DECIMAL(1) le hemos dicho que el dato que viene en el campo no es texto, sino un número, y multiload así lo hace: lee los BYTES como números y los carga en la tabla tal cual, sin interpretar el dato como la representación “en texto” de un número.

Pues sabiendo esto, y aunque no nos demos cuenta todavía, ahí está la clave para cargar los Comp-3 (Packed Decimals) en “mainframes“. La receta es fácil: si el dato numérico viene como texto (que será EBCDIC), bastará definir el .FIELD como CHAR(n) y multiload se encargará del CAST a numérico. Si por el contrario viene como “packed decimal” necesitaremos saber cuánto ocupa el campo en BYTES. En este caso también es necesario conocer el ‘PIC’ original. Así, por ejemplo:

PIC S9(4) COMP-3 => Byte size = (4 + 1) / 2 = 2.5 -> 3 bytes => .FIELD fld1 * DECIMAL(4)
PIC S9(5)V99 COMP-3 => Byte size = (5 + 2 + 1) / 2 = 4 bytes => .FIELD fld2 * DECIMAL(7,2)

Como se ve, el ‘PIC’ funciona de distinta manera que la definición de numéricos SQL: la parte entera se suma a la parte fraccionaria, mientras que en SQL la ESCALA supone el número total de dígitos, mientras que la PRECISIÓN dice cuántos de ellos son decimales.

Saludos.

Carlos.


Verificar ficheros ‘VARTEXT’ (awk is your friend II).

8 agosto \08\UTC 2013

Una de las formas frecuentes de cargar datos en Teradata (con fastload, multiload, bteq…) es a partir de ficheros de texto de longitud variable con un carácter separador de campos. Estos ficheros deben tener una estructura de campos coherente con la definición que hagamos en la herramienta de carga ( ‘DEFINE’ en fastload, ‘LAYOUT’ en multiload,’USING’ en bteq …). Pero a menudo ocurre que los ficheros son grandes y no es muy cómodo descubrir cuáles de sus filas no cumplen con las longitudes máximas de cada uno de los campos.

Aquí es donde awk puede ayudarnos de una forma rápida y simple.

Supongamos que tenemos un fichero cuyos registros deben cumplir una estructuta tipo ‘VARTEXT’ definida:

COL1  VARCHAR(7)
COL2  VARCHAR(110)
COL3  VARCHAR(120)
COL4  VARCHAR(44)
COL5  VARCHAR(9)
COL6  VARCHAR(15)
COL7  VARCHAR(6)
COL8  VARCHAR(5)
COL9  VARCHAR(8)
COL10 VARCHAR(3)

y que cuyo separador de campos es el ‘pipe’ (‘|’).

Para ver qué filas incumplen la estructura y nos darán problemas a la hora de cargarlas con la herramienta elegida (fastload, multiload, bteq…) podemos hacer simplemente:

awk 'BEGIN {FS = "|"}
        { v_rownumber+=1
                         if ( length($1)  >   7 ||
                              length($2)  > 110 ||
                              length($3)  > 120 ||
                              length($4)  >  44 ||
                              length($5)  >   9 ||
                              length($6)  >  15 ||
                              length($7)  >   6 ||
                              length($8)  >   5 ||
                              length($9)  >   8 ||
                              length($10) >   3 ) 
                            { v_errnumber+=1
                              printf "La fila %i tiene formato erróneo:%s\n", v_rownumber, $0
                            }
        }
     END { printf "Se han encontrado %i líneas erróneas de un total de %i leídas.\n", v_errnumber, v_rownumber }
    ' ruta/fichero_vartext_a_cargar.txt

La salida del proceso nos mostrará todas las filas que desborden el tamaño de cualquiera de los campos definidos. Con un poco más de código, también se puede hacer que además muestre qué campos son los que fallan.

Saludos.

Carlos.