[linux] Looping a través del contenido de un archivo en Bash


4 Answers

cat peptides.txt | while read line
do
   # do something with $line here
done
Question

¿Cómo puedo iterar a través de cada línea de un archivo de texto con Bash ?

Con este script:

echo "Start!"
for p in (peptides.txt)
do
    echo "${p}"
done

Obtengo esta salida en la pantalla:

Start!
./runPep.sh: line 3: syntax error near unexpected token `('
./runPep.sh: line 3: `for p in (peptides.txt)'

(Más tarde quiero hacer algo más complicado con $ p que solo la salida a la pantalla).

La variable de entorno SHELL es (desde env):

SHELL=/bin/bash

/bin/bash --version salida:

GNU bash, version 3.1.17(1)-release (x86_64-suse-linux-gnu)
Copyright (C) 2005 Free Software Foundation, Inc.

salida de cat /proc/version :

Linux version 2.6.18.2-34-default (geeko@buildhost) (gcc version 4.1.2 20061115 (prerelease) (SUSE Linux)) #1 SMP Mon Nov 27 11:46:27 UTC 2006

El archivo peptides.txt contiene:

RKEKNVQ
IPKKLLQK
QYFHQLEKMNVK
IPKKLLQK
GDLSTALEVAIDCYEK
QYFHQLEKMNVKIPENIYR
RKEKNVQ
VLAKHGKLQDAIN
ILGFMK
LEDVALQILL



Algunas cosas más que no están cubiertas por otras respuestas:

Lectura de un archivo delimitado

# ':' is the delimiter here, and there are three fields on each line in the file
# IFS set below is restricted to the context of `read`, it doesn't affect any other code
while IFS=: read -r field1 field2 field3; do
  # process the fields
  # if the line has less than three fields, the missing fields will be set to an empty string
  # if the line has more than three fields, `field3` will get all the values, including the third field plus the delimiter(s)
done < input.txt

Lectura desde la salida de otro comando, usando sustitución de proceso

while read -r line; do
  # process the line
done < <(command ...)

Este enfoque es mejor que el command ... | while read -r line; do ... command ... | while read -r line; do ... command ... | while read -r line; do ... porque el bucle while se ejecuta en el shell actual en lugar de en una subcadena como en el caso de este último. Ver la publicación relacionada No se recuerda una variable modificada dentro de un ciclo while .

Lectura desde una entrada delimitada nula, por ejemplo find ... -print0

while read -r -d '' line; do
  # logic
  # use a second 'read ... <<< "$line"' if we need to tokenize the line
done < <(find /path/to/dir -print0)

Relacionados con la lectura: BashFAQ / 020 - ¿Cómo puedo encontrar y manejar con seguridad nombres de archivos que contengan líneas nuevas, espacios o ambos?

Lectura de más de un archivo a la vez

while read -u 3 -r line1 && read -u 4 -r line2; do
  # process the lines
  # note that the loop will end when we reach EOF on either of the files, because of the `&&`
done 3< input1.txt 4< input2.txt

Lectura de un archivo completo en una matriz (versiones Bash anteriores a 4)

while read -r line; do
    my_array+=("$line")
done < my_file

Si el archivo finaliza con una línea incompleta (falta una nueva línea al final), entonces:

while read -r line || [[ $line ]]; do
    my_array+=("$line")
done < my_file

Lectura de un archivo completo en una matriz (Bash versiones 4x y posteriores)

readarray -t my_array < my_file

o

mapfile -t my_array < my_file

Y entonces

for line in "${my_array[@]}"; do
  # process the lines
done

Artículos Relacionados:




Supongamos que tiene este archivo:

$ cat /tmp/test.txt
Line 1
    Line 2 has leading space
Line 3 followed by blank line

Line 5 (follows a blank line) and has trailing space    
Line 6 has no ending CR

Hay cuatro elementos que alterarán el significado del resultado de archivo leído por muchas soluciones de Bash:

  1. La línea en blanco 4;
  2. Espacios iniciales o finales en dos líneas;
  3. Mantener el significado de las líneas individuales (es decir, cada línea es un registro);
  4. La línea 6 no termina con un CR.

Si desea que el archivo de texto línea por línea incluya líneas en blanco y líneas de terminación sin CR, debe usar un ciclo while y debe tener una prueba alternativa para la línea final.

Estos son los métodos que pueden cambiar el archivo (en comparación con lo cat devuelve el cat ):

1) Pierde la última línea y los espacios iniciales y finales:

$ while read -r p; do printf "%s\n" "'$p'"; done </tmp/test.txt
'Line 1'
'Line 2 has leading space'
'Line 3 followed by blank line'
''
'Line 5 (follows a blank line) and has trailing space'

(Si lo hace while IFS= read -rp; do printf "%s\n" "'$p'"; done </tmp/test.txt en while IFS= read -rp; do printf "%s\n" "'$p'"; done </tmp/test.txt lugar, conserva los espacios while IFS= read -rp; do printf "%s\n" "'$p'"; done </tmp/test.txt y finales, pero aún pierde la última línea si no está terminado con CR)

2) El uso de la sustitución de proceso con cat leerá todo el archivo de un trago y perderá el significado de las líneas individuales:

$ for p in "$(cat /tmp/test.txt)"; do printf "%s\n" "'$p'"; done
'Line 1
    Line 2 has leading space
Line 3 followed by blank line

Line 5 (follows a blank line) and has trailing space    
Line 6 has no ending CR'

(Si elimina el " de $(cat /tmp/test.txt) , lee el archivo palabra por palabra en lugar de un solo trago. Probablemente tampoco lo que se pretende ...)

La forma más robusta y sencilla de leer un archivo línea por línea y conservar todos los espacios es:

$ while IFS= read -r line || [[ -n $line ]]; do printf "'%s'\n" "$line"; done </tmp/test.txt
'Line 1'
'    Line 2 has leading space'
'Line 3 followed by blank line'
''
'Line 5 (follows a blank line) and has trailing space    '
'Line 6 has no ending CR'

Si desea despojar espacios líderes y comerciales, elimine la parte IFS= :

$ while read -r line || [[ -n $line ]]; do printf "'%s'\n" "$line"; done </tmp/test.txt
'Line 1'
'Line 2 has leading space'
'Line 3 followed by blank line'
''
'Line 5 (follows a blank line) and has trailing space'
'Line 6 has no ending CR'

(Un archivo de texto sin terminación \n , aunque es bastante común, se considera roto en POSIX. Si puede contar con el \n no finalizado, no necesita || [[ -n $line ]] en el ciclo while.)

Más en BASH FAQ




Esto no es mejor que otras respuestas, pero es una forma más de hacer el trabajo en un archivo sin espacios (ver comentarios). Encuentro que a menudo necesito ideas únicas para profundizar en listas en archivos de texto sin el paso adicional de usar archivos de script separados.

for word in $(cat peptides.txt); do echo $word; done

Este formato me permite ponerlo todo en una sola línea de comando. Cambia la parte "echo $ word" a lo que quieras y puedes emitir varios comandos separados por punto y coma. El siguiente ejemplo usa los contenidos del archivo como argumentos en otros dos scripts que puede haber escrito.

for word in $(cat peptides.txt); do cmd_a.sh $word; cmd_b.py $word; done

O si tiene la intención de usar esto como un editor de flujo (learn sed) puede volcar el resultado a otro archivo de la siguiente manera.

for word in $(cat peptides.txt); do cmd_a.sh $word; cmd_b.py $word; done > outfile.txt

Los he usado como está escrito arriba porque he usado archivos de texto donde los he creado con una palabra por línea. (Ver comentarios) Si tiene espacios que no desea dividir sus palabras / líneas, se vuelve un poco más feo, pero el mismo comando funciona de la siguiente manera:

OLDIFS=$IFS; IFS=$'\n'; for line in $(cat peptides.txt); do cmd_a.sh $line; cmd_b.py $line; done > outfile.txt; IFS=$OLDIFS

Esto solo le dice al shell que se divida solo en líneas nuevas, no en espacios, luego devuelve el entorno a lo que era anteriormente. En este punto, es posible que desee considerar poner todo en un script de shell en lugar de exprimirlo todo en una sola línea.

¡La mejor de las suertes!




Aquí está mi ejemplo de la vida real de cómo hacer un bucle en las líneas de otro resultado del programa, verificar las subcadenas, soltar las comillas dobles de la variable, usar esa variable fuera del ciclo. Supongo que muchos hacen estas preguntas tarde o temprano.

##Parse FPS from first video stream, drop quotes from fps variable
## streams.stream.0.codec_type="video"
## streams.stream.0.r_frame_rate="24000/1001"
## streams.stream.0.avg_frame_rate="24000/1001"
FPS=unknown
while read -r line; do
  if [[ $FPS == "unknown" ]] && [[ $line == *".codec_type=\"video\""* ]]; then
    echo ParseFPS $line
    FPS=parse
  fi
  if [[ $FPS == "parse" ]] && [[ $line == *".r_frame_rate="* ]]; then
    echo ParseFPS $line
    FPS=${line##*=}
    FPS="${FPS%\"}"
    FPS="${FPS#\"}"
  fi
done <<< "$(ffprobe -v quiet -print_format flat -show_format -show_streams -i "$input")"
if [ "$FPS" == "unknown" ] || [ "$FPS" == "parse" ]; then 
  echo ParseFPS Unknown frame rate
fi
echo Found $FPS

Declarar la variable fuera del ciclo, establecer el valor y usarlo fuera del ciclo requiere la sintaxis <<< "$ (...)" . La aplicación debe ejecutarse dentro de un contexto de consola actual. Las comillas alrededor del comando mantienen nuevas líneas de flujo de salida.

La coincidencia de bucle para subcadenas luego lee el par nombre = valor , divide la parte del lado derecho del último = carácter, descarta la primera cita, descarta la última cita, tenemos un valor limpio para usar en otro lugar.






Related