#awk
#awk
Вопрос:
3 файла:
n.txt
id-3a,oc-ctrl-jr-0,ACTIVE,-,Running,cp=172.31.0.7
id-5e,oc-ctrl-jr-1,ACTIVE,-,Running,cp=172.31.0.6
id-5f,oc-ctrl-jr-2,ACTIVE,-,Running,cp=172.31.0.5
id-0,oc-comp-jr-0,ACTIVE,-,Running,cp=172.31.0.9
id-77,oc-comp-jr-1,ACTIVE,-,Running,cp=172.31.0.8
bm.txt
server-10,id-77,power on,active,False
server-2,id-5f,power on,active,False
server-32,id-3a,power on,active,False
server-11,id-5e,power on,active,False
server-25,id-0,power on,active,False
3-й файл состоит из разделов для каждой строки из bm.txt:
hosts.yaml
[..]
- arch: x86_64
zone: foo
cpu: 1
disk: 10
hw_model_type:
- bar-8
mac:
- aa:aa:aa:aa:aa:aa:aa
memory: 4096
name: server-32
desc: 'my host'
ip_addr: 192.168.117.33
info: false
type: bla
[..]
Требуемый вывод:
n name,b name,n power,n desc,n state,n cp,bm power,bm state,b error,ip
oc-ctrl-jr-0,server-32,ACTIVE,-,Running,cp=172.31.0.7,power on,active,False,192.168.117.33
oc-ctrl-jr-1,server-11,ACTIVE,-,Running,cp=172.31.0.6,power on,active,False,192.168.117.47
oc-ctrl-jr-2,server-2,ACTIVE,-,Running,cp=172.31.0.5,power on,active,False,192.168.117.87
oc-comp-jr-0,server-25,ACTIVE,-,Running,cp=172.31.0.9,power on,active,False,192.168.117.111
oc-comp-jr-1,server-10,ACTIVE,-,Running,cp=172.31.0.8,power on,active,False,192.168.117.3
Я могу объединить первые два файла с помощью этого кода, но порядок столбцов отличается от желаемого:
awk -F, 'BEGIN{print"N Name,N Power,N Desc,N State,N CP,BM Name,BM Power,BM State,BM Error"}
NR==FNR{OFS=",";a[$2]=$1 OFS $3 OFS $4 OFS $5; next}
$1 in a {print $2,$3,$4,$5,$6,a[$1]}' bm.txt n.txt
Но я не знаю, как изменить порядок и как добавить 3-й синтаксический анализ файла в основной код.
Я могу проанализировать 3-й файл отдельно следующим образом:
awk '$0~"name: server-32$"{getline;getline;print $NF}' hosts.yaml
Я буду признателен за то, как получить требуемый результат. И любые советы о том, как улучшить текущий код.
Спасибо
Ответ №1:
С GNU awk
, не могли бы вы попробовать следовать написанному и протестированному с показанными примерами.
awk '
ARGIND==1{
if($0~/server-[0-9] /){
foundServer=1
serverName=$2
}
if(foundServer amp;amp; $0 ~ /ip_addr:/){
servername[serverName]=$2
serverName=foundServer=""
}
next
}
ARGIND==2{
if(setFS==""){ FS=OFS=",";setFS=1 }
server[$2]=$1
powerarr[$2]=$3 OFS $4 OFS $5
next
}
ARGIND==3{
if($1 in server){
print $2 OFS server[$1] OFS $3 OFS $4 OFS $5 OFS $6 OFS powerarr[$1],(servername[server[$1]]!=""?servername[server[$1]]:"NA")
}
}
' hosts.yaml bm.txt n.txt
Объяснение: добавление подробного объяснения выше.
awk '
##Starting awk program from here.
ARGIND==1{
##Checking condition if this is first Input_file then do following.
if($0~/server-[0-9] /){
##Checking condition if line has server with digits then do following.
foundServer=1
##Setting foundServer to 1 here.
serverName=$2
##Setting serverName to 2nd field which is value from yaml file.
}
if(foundServer amp;amp; $0 ~ /ip_addr:/){
##Checking condition if foundServer is SET and line has ip_addr in it then do following.
servername[serverName]=$2
##Creating servername array with index of serverName with value of 2nd field.
serverName=foundServer=""
##Nullifying serverName and foundServer here.
}
next
##next will skip all further statements from here.
}
ARGIND==2{
##Checking condition if this is 2nd Input_file is being read then do following.
if(setFS==""){ FS=OFS=",";setFS=1 }
##Checking condition if setFS is NULL then set FS and OFS as comma here and setting setFS to 1.
server[$2]=$1
##Creating server with index of 2nd field which has 1st field as value.
powerarr[$2]=$3 OFS $4 OFS $5
##Creating powerarr with index as 2nd field and $3 OFS $4 OFS $5 as value.
next
##next will skip all further statements from here.
}
ARGIND==3{
##Checking condition if this is 3rd Input_file is being read then do following.
if($1 in server){
##Checking condition if 1st field is present in server then do following.
print $2 OFS server[$1] OFS $3 OFS $4 OFS $5 OFS $6 OFS powerarr[$1],(servername[server[$1]]!=""?servername[server[$1]]:"NA")
##Printing needed values as per OP here.
}
}
' hosts.yaml bm.txt n.txt ##Mentioning Input_file names here.
Ответ №2:
awk 'FILENAME=="n.txt" { # Process on the n.txt file
split($0,arr,","); # Split data into array arr using , as the delimiter
nam[arr[1]]=arr[2]; # Use entries in arr array to create separate arrays for each piece of data required.
state[arr[1]]=arr[5];
cp[arr[1]]=arr[6];
state3[arr[1]]=arr[3];
ndesc[arr[1]]=arr[4];
next
}
FILENAME=="bm.txt" { # Process only bm.txt.
split($0,arr,",");
serv[arr[2]]=arr[1]; # Create separate arrays as we did with the previous file
power[arr[2]]=arr[3];
state1[arr[2]]=arr[4];
berr[arr[2]]=arr[5];
next
}
FILENAME=="hosts.yaml" amp;amp; /name/ { # Search for name variable in yaml
split($0,arr,":");
gsub(" ","",arr[2]); # Remove spaces
serva=arr[2]; # Hold server name in serva variable
next
}
FILENAME=="hosts.yaml" amp;amp; /ip_addr/ { # Search for ip_addr in yaml
split($0,arr,":");
gsub(" ","",arr[2]);
serv1[serva]=arr[2]; # Set up an array indexed with server name
next
}
END {
for (i in nam) { # Loop through nam array pulling out entries in other arrays
print nam[i]","serv[i]","state3[i]","ndesc[i]","state[i]","cp[i]","power[i]","state1[i]","berr[i]","serv1[serv[i]]
}
} n.txt bm.txt host.yaml
Вывод:
oc-ctrl-jr-1,server-11,ACTIVE,-,Running,cp=172.31.0.6,power on,active,False,
oc-ctrl-jr-2,server-2,ACTIVE,-,Running,cp=172.31.0.5,power on,active,False,
oc-comp-jr-0,server-25,ACTIVE,-,Running,cp=172.31.0.9,power on,active,False,
oc-ctrl-jr-0,server-32,ACTIVE,-,Running,cp=172.31.0.7,power on,active,False,192.168.117.33
oc-comp-jr-1,server-10,ACTIVE,-,Running,cp=172.31.0.8,power on,active,False,
Ответ №3:
насколько велики эти файлы?
если общий объем составляет менее 3-4 ГБ, я бы, возможно, предложил просто загрузить каждый файл в awk целиком и использовать ассоциативные массивы, которые в основном уже являются индексами DB.
может быть немного менее беспокойным, чем пытаться идти в ногу с этим многоходовым объединением файлов. Если Unicode не вызывает беспокойства или gensub() не является обязательным, рассмотрите возможность запуска точных кодов, предложенных другими в mawk1.3.4 и mawk2-beta.
Довольно сюрреалистично видеть, как язык сценариев эпохи динозавров побеждает tr, cut, sed, grep в своей собственной игре, в довольно большом количестве моих повседневных случаев использования.
Комментарии:
1. они относительно небольшие. обычно менее 100 строк. предложенные выше ответы работали хорошо