根据$18信息对csv文件进行分类，并在每个类别中找到在$4中具有最大唯一编号的csv文件

Question

如果我们有三个示例输入文件：

测试\u 95 \u目标\u 1334 \u化验\u细节3.csv

A,accession,result_id,cpd_number,lot_no,assay_id,alt_assay_id,version_no,result_type,type_desc,operator,result_value,unit_id,unit_value,unit_desc,batch_no,experiment_date,discipine,assay_name,activity_flag
95,PKC,123456,cpd-0123456,1,1334,5678,1,1,IC50,>,26.21,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Enzymatic,PBA,
95,PKC,123456,cpd-0123456,1,1334,4600,1,1,IC50,,17.1,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Enzymatic,PBA,
95,PKC,123456,cpd-1234567,1,1334,2995,1,1,Ki,,30,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Enzymatic,PBA,
95,PKC,123456,cpd-1234567,1,1334,2900,1,1,IC50,,30,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Enzymatic,PBA,

测试\u 95 \u目标\u 1338 \u化验\u细节3.csv

A,accession,result_id,cpd_number,lot_no,assay_id,alt_assay_id,version_no,result_type,type_desc,operator,result_value,unit_id,unit_value,unit_desc,batch_no,experiment_date,discipine,assay_name,activity_flag
95,PKC,123456,cpd-0123456,1,1338,3999,1,1,IC50,,55,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Biochemical,PBA,
95,PKC,123456,cpd-0123456,1,1338,1985,1,1,IC50,,66,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Biochemical,PBA,
95,PKC,123456,cpd-1234007,1,1338,2995,1,1,Ki,,18,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Biochemical,PBA,
95,PKC,123456,cpd-1239867,1,1338,2900,1,1,IC50,,20,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Biochemical,PBA,
95,PKC,123456,cpd-1234567,1,1338,2900,1,1,IC50,,20,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Biochemical,PBA,

测试\u 95 \u目标\u 2888 \u化验\u详情3

Test,accession,result_id,cpd_number,lot_no,assay_id,alt_assay_id,version_no,result_type,type_desc,operator,result_value,unit_id,unit_value,unit_desc,batch_no,experiment_date,discipine,assay_name,activity_flag
95,PKC,123456,cpd-0123456,1,2888,3830,1,1,IC50,>,24.49,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Cell,PBA,
95,PKC,123456,cpd-0123456,1,2888,4600,1,1,IC50,,19.6799,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Cell,PBA,
95,PKC,123456,cpd-1234567,1,2888,3830,1,1,IC50,,30,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Cell,PBA,
95,PKC,123456,cpd-5566778,1,2888,3830,1,1,IC50,,30,1,uM,micromolar,67682,1/24/2007 12:00:00AM,Cell,PBA,

有没有办法使用bash/awk（python也是受欢迎的！）把第18栏（18美元）是“酶”、“生化”和“细胞”的文件分类？我们的目标是在18美元内从生化或酶中选择具有最大数量的独特化合物（$4）的文件，并在18美元内从细胞中选择具有最大数量的独特化合物的文件。你知道吗

在本例中，我们将从第18列为“酶促”或“生化”的文件中选择“Test\u 95\u target\u 1338\u assay\u Detail3.csv”。（因为“Test\u 95\u target\u 1338\u assay\u Detail3.csv”在$4中有3个唯一的化合物，而“Test\u 95\u target\u 1334\u assay\u Detail3.csv”只有2个唯一的化合物。3>；2）在本例中，我们将为细胞类别选择“Test\u 95\u target\u 2888\u assay\u Detail3.csv”，因为它是唯一一个。你知道吗

尝试如下：此脚本将查找行数最多的csv文件，并将该文件名作为变量用于以下过程。我有另一个脚本来找到csv文件，它有最多的独特化合物（$4）。我把那个脚本放在另一台笔记本电脑里了，明天早上才能拿到。那就贴下面的吧。你知道吗

#!/bin/bash

for A in 95

do   

wc -l Test_${A}_target_*_assay_Detail_average.csv > Test_${A}_target.csv

### This will make

#4 Test_95_target_1334_assay_Detail3.csv
#4 Test_95_target_1338_assay_Detail3.csv
#4 Test_95_target_2388_assay_Detail3.csv
#13 Total

head -n -1 Test_${A}_target.csv > Test_${A}_target2.csv  # remove the last line "total"

sort -k1 -r -n Test_${A}_target2.csv > Test_${A}_target3.csv   # sort the count column

# Only pick the second column in the "wc -l" output

awk -F " " '{print $2}' Test_${A}_target3.csv > Test_${A}_target4.csv   # Grasp the $2 file name info

max=$(head -n 1 Test_${A}_target4.csv)   # Make the top file name as the variable "max" for the following process

echo $max

rm Test_${A}_target3.csv Test_${A}_target2.csv Test_${A}_target.csv

done

输出：

echo $max

Test_95_target_1338_assay_Detail3.csv

但是，我不太明白如何根据18美元的信息对csv文件进行分类。任何一位大师能提供一些意见或解决方案吗？谢谢。你知道吗

Answer 1

更新答案

根据你的意见，我试过重新设计awk，以满足你的新需求。我可能会把它们编码成这样：

#!/bin/bash

# Do enzymatic/biochemical first

for f in *.csv; do
   awk -F, -v IGNORECASE=1 'NR>1 && ($18 ~ "enzymatic" || $18 ~ "biochemical") && $12<=10 {print $12,FILENAME}' "$f"
done | sort -n | tail -3

# Now do cell types

for f in *.csv; do
   awk -F, -v IGNORECASE=1 'NR>1 && $18 ~ "cell" && $12<=10 {print $12,FILENAME}' "$f"
done | sort -n | tail -3

不过，我认为下面的方法可能更有效、更简单

egrep -Hi "enzyme|biochemical" *.csv | awk -F, '$12<=10{split($1,a,":");filename=a[1];print filename,$12}' | sort -n | tail -3

grep -Hi "cell" *.csv | awk -F, '$12<=10{split($1,a,":");filename=a[1];print filename,$12}' | sort -n | tail -3

原始答案

我想这就是你的意思！你知道吗

#!/bin/bash
for f in *.csv; do
   res=$(awk -F',' '
          BEGIN{IGNORECASE=1;field18ok=0} 
          $18 ~ "enzymatic" || $18 ~ "biochemical" || $18 ~ "cell" {field18ok=1}
          NR>1{if(!col4[$4]++)u++}
          END{print field18ok * u}' "$f")
   echo $res:$f
done | sort -n

它遍历所有.csv文件，并一次将它们传递到awk。你知道吗

如果任何一行在字段18中有3个关键字（大写或小写）中的一个，它会设置一个标志，表示字段18是确定的，并且是您要查找的关键字之一。如果字段18不是您要查找的字段之一，则变量fiedl18ok将保持设置为零，并使末尾打印的answer等于零。你知道吗

下一部分，起始NR>1只适用于行号大于1的行，因此它基本上忽略了输入文件的头行。然后，它通过在一个名为col4[]的数组中记住在第4列中已经看到的所有值，对第4列中的唯一值求和。因此，第一次向这个数组中添加1时，我增加了u（我在字段4中看到的唯一事物的数量）。你知道吗

最后，（END{}）它将field18ok乘以第4列中唯一化合物的数量。因此，如果字段18不是您想要的，那么答案将是零，而如果字段18是您要查找的值之一，那么它将是字段4中唯一值的数目。你知道吗

然后对输出进行数字排序，以便您可以轻松地选择最高值。你知道吗

Answer 2

这段代码读取所有文件数据，然后获取它的第18个位置（索引17，因为是基于零的），如果匹配值条件，则将复合项添加到具有文件名键的dict中。
我使用了一个集合，因为这个结构不存储重复的值。
最后，您只需检查所有集合的值，即可知道哪些集合具有最大唯一值

import csv
files        = ['Test_95_target_1334_assay_Detail3.csv','Test_95_target_1338_assay_Detail3.csv', 'Test_95_target_2888_assay_Detail3.csv']
pos_to_check = 17 #zero based index
pos_compound = 3
values_to_check = ["enzymatic", "biochemical" , "cell"]
result = dict([(file,set([])) for file in files ]) #file : set of compounds

for file in files:   
    with open(file, 'r') as csvfile:
        csvreader = csv.reader(csvfile)
        for row in csvreader:   
            if row[pos_to_check].lower() in values_to_check:
                result[file].add(row[pos_compound])

#get key which has more elements
max(result.iterkeys(), key=(lambda key: len(result[key])))