4 avril 2008 – Classification des segments, améliorée

avril 4, 2008 par xtof78000

13h23 :
en reprenant le code VBA pour classer les segments, j’ai constaté quelques erreurs.
je l’ai donc repris a la base.
je l’ai finalement totalement changer.
après quelques tatonnement j’ai abouti a un code correct.
mon problème principal a été l’orientation des segments et des orf.
en effet, pour respecter le sens 5′->3′ de l’adn, selon le brin sur lequel se trouve une séquence, la valeur de la position de début d’une séquence sera supérieure a celle de la fin si on se trouve sur le brin crick et inférieure pour le brin watson.
cependant je n’ai pas respecté cette convention d’ecriture pour les segments mais uniquement pour les orf.
c’est un peu dommage et surtout ca pose des problème lors des calculs.
j’ai donc choisi d’inverser aussi les valeurs pour les orf lors du calcul, pour me simplifier la vie.
-description de l’algo de classification
pour chaque segments trouvé
je récupère le start et le end. attention les start est focement inférieur ou égal au end. le brin n’est pas pris en compte
je cherche d’abord l’orf A. par définition elle est forcement après le segment et ne le chevauche pas. je la cherche donc parmis les orf upstream en sens et antisens.
je cherche ensuite l’orf B. celle-ci peut etre chevauchante ou recouvrir en intégralité le segment. elle se trouve parmi les orf downstream et overlap en sens et antisens. la plus proche sera celle choisie. si il y a une orf overlap en sens et en antisens, celle en sens sera privilégiée.
on regarde ensuite la disposition du segment par rapport a ces 2 orfs

  • si les 2 orf et le segment sont dans le meme sens c’est une configuration tandem sens
  • si les 2 orf sont dans le meme sens et le segment en antisens c’est une configuration tandem antisens
  • si l’orf A est dans le meme sens que le segment et B en antisens c’est une configuration convergente
  • si l’orf A est en antisens du segment et que B est dans le meme sens, c’est une configuration divergente

on recherche ensuite ou se situe le segment par rapport a l’orf B, soit avant, soit chevauchant le début, soit inclu soit chevauchant la fin.
pour sa on caclul la différence entre les positions start et end du segment et de l’orf.
au préalable, si l’orf est sur le brin crick, on aura inversé les valeurs de start et de end.
on teste si ces différences sont positives ou négatives.
si le segment est devant l’orf, toute les différence seront positives par exemple.
dans le cas ou le segment est sur le brin crick, les résultat sont inversé. les différence sont alors toute négative si le segment est avant l’orf. pour prendre en compte cette configuration je multiplie par -1 les différence si le segment est sur crick et par 1 si il est sur watson.
si j’associe 1 à une valeur de différence positive et zero a une valeur négative, et que ensuite je fait la somme, j’obtiens alors un chiffre compris entre 0 et 4.

  • 4 signifie que le segment est intégralement devant l’orf (cas 1, 5, 9, et 13)
  • 3 signifie que le segment chevauche le début de l’orf (cas 2, 6, 10 et 14)
  • 2 signifie que le segment est inclus intégralement dans l’orf (cas 3, 7, 11 et 15)ou que il recouvre l’orf intégralement. ce dernier cas n’avait pas été envisagé. je ne le traite pas différemment car il est rare, sno rna en général
  • 1 signifie que le segment chevauche la fin de l’orf (cas 4, 8, 12 et 16)
  • 0 signifie que le segment est intégralement derrière l’orf, ce qui n’est pas possible a priori selon la méthode de sélection des orf environnantes

le code vba

Attribute VB_Name = "search_features"Sub classification()

Range("AH2").Selectligne = 0Valeur = Range("A2").Offset(ligne, 0).Value

Do Until Valeur = ""'recupération des start et end du segmentsegment_start = ActiveCell.Offset(ligne, -30)segment_end = ActiveCell.Offset(ligne, -29)'calcul du milieu du segment'segment_mid = Int((segment_start + segment_end) / 2)'récupération de la position du max du segmentsegment_max = ActiveCell.Offset(ligne, -28)'calcul des distances entre le start et le milieu'segment_start2mid = segment_mid - segment_start'calcul des distances entre le end et le milieu'segment_end2mid = segment_end - segment_mid'calcul des distances entre le start et le max'segment_start2max = segment_max - segment_start'calcul des distances entre le end et le max'segment_end2max = segment_end - segment_max

'teste si le brin est crick ou watson pour initialiser la variable signe'cette variable servira par la suite pour des calculs de distanceIf Range("C2").Offset(ligne, 0) = "c" Then'si crick on affecte a signe la valeur -1signe = -1Else'sinon on lui donne la valeur 1signe = 1End If

'********************recherche de l'orf A*********************************'l'orf A est forcement l'orf upstream la plus proche, elle est definit comme ca'la recherche se fait donc entre les feature up en sens et antisens

'appel de text_prox. les valeurs en argument sont les distances des features up en sens et antisens'test_prox retourne vrai si la première (feature_up_sens) est la plus procheup_val = test_prox(ActiveCell.Offset(ligne, -21).Value, ActiveCell.Offset(ligne, -14).Value)'teste de up_valIf up_val Then's'il est vrai, alors l'orf A est l'orf up senscol_orf_A = -24'et une 2eme variable de signe est initialisée a 1signe2 = 1Else's'il est faux alors l'orf A est l'orf up antisenscol_orf_A = -16'et la variable signe2 est initialisée a -1signe2 = -1End If'je recupère les noms de l'orf AORF_A_name = ActiveCell.Offset(ligne, col_orf_A).ValueORF_A_gene = ActiveCell.Offset(ligne, col_orf_A + 1).Value'je calcul la position du start de l'orf a partir du max du segment et de la distance a celui ci'les varaible de signe permette de tenir compte du brin'et de la position relative de la feature par rapport au segmentORF_A_start = segment_max - (ActiveCell.Offset(ligne, col_orf_A + 2).Value * signe * signe2)ORF_A_end = segment_max - (ActiveCell.Offset(ligne, col_orf_A + 3).Value * signe * signe2)

'********************recherche de l'orf B*********************************'l'orf B va etre l'orf la plus proche parmis les orf restante (downstream et overlap)'l'algo cherche d'abord s'il existe des orf overlap et sinon recherche entre les orf down laquelle est la plus proche

'teste s'il y a une orf overlap en sensIf Not IsEmpty(ActiveCell.Offset(ligne, -6)) Then'si oui, la variable down_val est vrai, cette variable signifie que l'orf B est sur le meme brin que le segmentdown_val = True'l'orf B sera alors l'orf qui overlap en senscol_orf_B = -8'recupération des distances du segment a l'orfmax2orf_start = ActiveCell.Offset(ligne, -6).Valuemax2orf_end = ActiveCell.Offset(ligne, -5).Value'affectation du signe + a la variable signe2 qui signifie que B et le segment sont dans le meme sensesigne2 = 1'teste s'il y a une orf overlap en antisens -- s'il ya des orf overlap en sens et antisens, celle en sens sera la seule considéréeElseIf Not IsEmpty(ActiveCell.Offset(ligne, -2)) Then'la variable down_val est alors faussedown_val = False'l'orf B est l'orf overlap antisenscol_orf_B = -4'recupération des distances du segment a l'orf, attention il y a une inversion entre start et end pour tenir compte de l'antisensmax2orf_end = -ActiveCell.Offset(ligne, -2).Valuemax2orf_start = -ActiveCell.Offset(ligne, -1).Value'signe - pour tenir compte de l'antisenssigne2 = -1'si il n'y a aucune orf overlapElse'appel de test_prox pour savoir quelle orf entre down sens et down antisens est la plus prochedown_val = test_prox(ActiveCell.Offset(ligne, -18).Value, ActiveCell.Offset(ligne, -9).Value)'test si down_val est vraiIf down_val Then'si oui, alors l'orf down sens est la plus proche'ce sera l'orf Bcol_orf_B = -20'on récupère les distances du segment a l'orfmax2orf_start = ActiveCell.Offset(ligne, -18).Valuemax2orf_end = ActiveCell.Offset(ligne, -17).Value'affectation du signe +signe2 = 1Else'sinon c'est la doown antisens la plus proche, ce sera l'orf Bcol_orf_B = -12'on recupère les distance, attention a l'inversion pour respecter l'antisensmax2orf_end = -ActiveCell.Offset(ligne, -10).Valuemax2orf_start = -ActiveCell.Offset(ligne, -9).Value'affectation du signe - pour l'antisenssigne2 = -1End IfEnd If'recup des noms de l'orf BORF_B_name = ActiveCell.Offset(ligne, col_orf_B).ValueORF_B_gene = ActiveCell.Offset(ligne, col_orf_B + 1).Value'calcul des start et end de l'orf B en utilisant les signes qui vont bienORF_B_start = segment_max - (ActiveCell.Offset(ligne, col_orf_B + 2).Value * signe * signe2)ORF_B_end = segment_max - (ActiveCell.Offset(ligne, col_orf_B + 3).Value * signe * signe2)

'********************classification des segments*********************************'la classif se fait en 2 étapes'on cherche d'abord la classe entre Tandem sens(Ts), Tandem antisens (Ta), convergente (C) et divergente (D)

'si les orf A et B sont en sens, alors c'est le cas tandem sensIf (up_val And down_val) Then'on inscrit TsActiveCell.Offset(ligne, 0).Value = "Ts"'la variable base_classe est initialisée a 0'cette variablme servira pour le calcul de la catégoriebase_classe = 0End If'si A et B sont en antisens alors c'est tandem antisensIf (Not up_val And Not down_val) ThenActiveCell.Offset(ligne, 0).Value = "Ta"base_classe = 4End If'si A est en antisens et B en sens alors c'est divergentIf (Not up_val And down_val) ThenActiveCell.Offset(ligne, 0).Value = "D"base_classe = 8End If'si A est en sens et B en antisens alors c'est convergentIf (up_val And Not down_val) ThenActiveCell.Offset(ligne, 0).Value = "C"base_classe = 12End If'appel de test_case pour déterminer la catégorie'recupère une valeur entre 1 et 4 qui est ajoutée a la variable base_classeclasse = test_case(segment_start, segment_end, ORF_B_start, ORF_B_end, signe, signe * signe2) + base_classe'ecrit les valeurs trouvées pour l'orf AActiveCell.Offset(ligne, 1).Value = ORF_A_nameActiveCell.Offset(ligne, 2).Value = ORF_A_geneActiveCell.Offset(ligne, 3).Value = ORF_A_startActiveCell.Offset(ligne, 4).Value = ORF_A_end

'ecrit les valeurs trouvées pour l'orf BActiveCell.Offset(ligne, 5).Value = ORF_B_nameActiveCell.Offset(ligne, 6).Value = ORF_B_geneActiveCell.Offset(ligne, 7).Value = ORF_B_startActiveCell.Offset(ligne, 8).Value = ORF_B_end'ecrit la categorieActiveCell.Offset(ligne, 9).Value = classe'incremente la ligneligne = ligne + 1'modifie la valeur dans la status barApplication.StatusBar = ligne'recupere la valeur de la permière cellule de la ligne suivante et continue la boucleValeur = Range("A1").Offset(ligne, 0).ValueLoop

End SubFunction test_prox(val_sens, val_anti)If Abs(val_sens) < Abs(val_anti) Thentest_prox = TrueEnd IfEnd Function

Function bool_2_val(bool)If bool Thenbool_2_val = 1Elsebool_2_val = 0End IfEnd Function

Function test_case(segment_start, segment_end, ORF_B_start2, ORF_B_end2, signe, brin_orf)'fonction test_case'permet de déterminer la catégorie du segment en fn de sa position'il a y 4 cas, entre les orf A et B(1), chevauchant le debut de B (2)'inclu dans B (3) et chevauchant la fin de B (4)'il y a aussi le cas 100 si jamais le cas n'est pas répertorié

'teste si l'orf est sur le brin crick ou watsonIf brin_orf < 0 Then'si c'est crick alors on iverse le start et le endtmp = ORF_B_end2ORF_B_end2 = ORF_B_start2ORF_B_start2 = tmpEnd If'teste si le start du segment est avant le start de l'orf (1=oui, 0=non)start_segment_b4_start_orfB = bool_2_val((ORF_B_start2 - segment_start) * signe > 0)'teste si le end du segment est avant le start de l'orf (1=oui, 0=non)end_segment_b4_start_orfB = bool_2_val((ORF_B_start2 - segment_end) * signe > 0)'teste si le start du segment est avant le end de l'orf (1=oui, 0=non)start_segment_b4_end_orfB = bool_2_val((ORF_B_end2 - segment_start) * signe >= 0)'teste si le end du segment est avant le end de l'orf (1=oui, 0=non)end_segment_b4_end_orfB = bool_2_val((ORF_B_end2 - segment_end) * signe >= 0)

'fait la somme de ces testssom_bool = start_segment_b4_start_orfB + end_segment_b4_start_orfB + start_segment_b4_end_orfB + end_segment_b4_end_orfB'si la somme est de 4, tout le segment est avant, on est dans le cas 1If som_bool = 4 Thentest_case = 1'si la some vaut 3, un bout du segment chevauche le debut de l'orfElseIf som_bool = 3 Thentest_case = 2'si la somme vaut 2, le segment est dans l'orf ou alors l'orf est dans le segmentElseIf som_bool = 2 Thentest_case = 3'si la somme vaut 1 alors le segment chevauche la fin de l'orfElseIf som_bool = 1 Or som_bool = 0 Thentest_case = 4Elsetest_case = 100End If

End Function

le script a été enregistré sur bambino dans F:/users/christophe/search_features_A_and_B.xls
il a été appliqué sur les données de F:/users/christophe/segments_description2_5_100_1.txt
j’ai remarqué que tous les segments du brin crick étaient mal positionné. ils sont décalé de +1. j’ai fait une correction des positions sur le start et end de ces segments avant d’appliquer le script. le résultat a été enregistré dans F:/users/christophe/segments_distance_to_feature_using_max.xls a
j’obtiens comme classification

catégorie mid to feature max to feature
1 2417 2423
2 196 189
3 1334 1347
4 22 17
5 1103 1110
6 240 241
7 2012 2032
8 33 27
9 1535 1539
10 218 222
11 1494 1522
12 24 21
13 1917 1926
14 378 379
15 1225 1243
16 24 21
100 11 0
104 21 0
108 32 0
112 23 0

c’est très proche de ce que j’obtenais avant.
je vais maintenant voir l’influence de la localisation des features par rapport au max des segments sur les distances obtenues
je génère sur matlab les graphique représentant la distribution.
pour cela j’exporte le fichier xls en format txt tabulé en ayant avant enlevé toutes les colonnes contenant du texte.
je transfert ce fichier sur berthemorisot /data/users_data/helen/454/sageData/total/stats/ratio2_5/max_segments/segments_distance_to_feature_using_max.csv
et je l’ouvre dans matlab
je l’enregistre dans la matrice data_using_max . les titre des colonnes sont dans textdata
je fais pareil pour les données calculée avec le milieu des segment qui sont enregistrée dan sla matrice data_using_mid.
j’enregistre le tout dans le fichier distance_using_max.mat
pour représenter les résultats graphiquement j’ai créé un script qui permet de filtrer les valeurs de distance.

function distance = mk_distance_hist(data, groups, cols, distance_min, distance_max, nb_tag_min, smooth_window)indice_groups = [];%selectionne les lignes faisant parti des groupes a utiliserfor g=groupsid = find(data(:,7)==g);indice_groups(end+1:end+length(id)) = id;end%conserve uniquement les lignes des groupes choisidata = data(indice_groups,:);%recherche les ligne avec un nb de tag superieur ou egal a la limiteindice_nb = find(data(:,5)<=nb_tag_min);%conserve uniquement ces lignes ainsi que les colonnes choisiesdata = data(indice_nb, cols);%recherche la valeur la plus proche de zero pour chque lignedistance=near_zero(data');distance=distance';%recherche les valeurs comprises dans l'intervalle spécifiédistance_id = find(distance<=distance_min & distance>=distance_max);distance=distance(distance_id);%cherche les extreme de la matricedist_max = max(distance);dist_min = min(distance);%applique la fonction histogramme en choisisant une catégorie par%valeurh=hist(distance, dist_max-dist_min + 1);%dessine la répartition des valeurs entre les extreme%figure;%plot(dist_min:dist_max, smooth_dist(h', smooth_window));%affiche le nb de segments aisni filtréslength(distance)

———————edit du 8 avril 2008———————-
on cherche a représenter les distances en fonction des classes, et de la configuration par rappoprt au orf.
par exemple, je veux voir la distance des segment par rapport au start des orf en sens.
on veux voir les segments proches des orf donc on va regarder les distance pour les orf downstream en sens mais aussi pour les orf overlap. c’est a dire les colonnes 10 et 16.
on s’intéresse aux segment de la classe 1.
on cherche pour tous les segments (n > 0)
et on cherche dans une fenetre réduite de -1000 a 1000
la commande est donc
distance_c1_start_sens=mk_distance_hist(data_using_max, 1, [10 16], -1000, 1000, 0, 20);
je recupère les valeurs dans la matrice distance_c1_start_sens
je vais appliquée une fonction permettant de calculer la fréquence dans une fenetre donnée avec un nombre de classes prédéterminé.

function histogramme = frequence(data, mini, maxi, nb)

step = (maxi-mini) / nb;histogramme = [];for i = mini:step:maxideb = i;fin = i + step;histogramme(end+1,1) = deb;histogramme(end,2) = sum(logical(data >= deb & data < fin));endif (size(histogramme, 1) > nb)histogramme(end-1,2)= sum(histogramme(end-1:end,2));histogramme(end,:)=[];end

la commande est hist_c1_start_sens=frequence(distance_c1_start_sens,-1000,1000,200);
et j’obtiens

cette courbe varie en fonction du nombre de sage choisi
si on fait varier ce nombre de 1 à 10 on a

figure;hold all;for i=1:10distance_c1_start_sens=mk_distance_hist(data_using_max, 1, [10 16], -1000, 1000, i, 20);hist_c1_start_sens=frequence(distance_c1_start_sens,-1000,1000,200);plot(hist_c1_start_sens(:,1),hist_c1_start_sens(:,2))end

et on obtient

On peut aussi représenter sur un meme graphique les distances des segments des
différentes classes en sens et antisens
on prend les classes 1 et 10
on choisi d’abord de chercher les distance par rapport aux start des orf.
en sens il faut regarder par rapport au start des orf down et overlap en sens (colonnes 10 et 16) et en antisens il faut regarder par rapport aux orf upstream (on inverse) et overlap antisens (colonnes 12 et 18)
les commandes sont donc
distance_c1_start_sens=mk_distance_hist(data_using_max, 1, [10 16], -1000, 1000, 0, 20);
distance_c1_start_antisens=mk_distance_hist(data_using_max, 1, [12 18], -1000, 1000, 0, 20);
distance_c10_start_sens=mk_distance_hist(data_using_max, 10, [10 16], -1000, 1000, 0, 20);
distance_c10_start_antisens=mk_distance_hist(data_using_max, 10, [12 18], -1000, 1000, 0, 20);

les histogrammes sont alors calculer par
hist_c1_start_sens=frequence(distance_c1_start_sens,-1000,1000,200);
hist_c1_start_antisens=frequence(distance_c1_start_antisens,-1000,1000,200);
hist_c10_start_sens=frequence(distance_c10_start_sens,-1000,1000,200);
hist_c10_start_antisens=frequence(distance_c10_start_antisens,-1000,1000,200);
puis on les représente sur un meme graphique

figurehold allplot(hist_c1_start_sens(:,1),hist_c1_start_sens(:,2))plot(hist_c10_start_sens(:,1),hist_c10_start_sens(:,2))plot(hist_c1_start_antisens(:,1),-hist_c1_start_antisens(:,2))plot(hist_c10_start_antisens(:,1),-hist_c10_start_antisens(:,2))

et on obtient


j’ai écrit un script permettant de représenter les graph pour les start et les stop et de faire varier le nb de tag minimum
rappel
pour les distances par rapport au start on utilise
- les colonnes 10 et 16 en sens
- les colonnes 12 et 18 en antisens

pour les distances par rapport aux stop, on utilise
- les colonnes 9 et 17 en sens
- les colonnes 15 et 19 en antisens
la fonction

function plot_segment_distance(data, n)

distance = cell(8,3);distance{1,2}='distance from segment of classe 1 to start of orf in sens';distance{1,1}=mk_distance_hist(data, 1, [10 16], -1000, 1000, n, 20);distance{2,2}='distance from segment of classe 1 to start of orf in antisens';distance{2,1}=mk_distance_hist(data, 1, [12 18], -1000, 1000, n, 20);distance{3,2}='distance from segment of classe 10 to start of orf in sens';distance{3,1}=mk_distance_hist(data, 10, [10 16], -1000, 1000, n, 20);distance{4,2}='distance from segment of classe 10 to start of orf in antisens';distance{4,1}=mk_distance_hist(data, 10, [12 18], -1000, 1000, n, 20);distance{5,2}='distance from segment of classe 1 to end of orf in sens';distance{5,1}=mk_distance_hist(data, 1, [9 17], -1000, 1000, n, 20);distance{6,2}='distance from segment of classe 1 to end of orf in antisens';distance{6,1}=mk_distance_hist(data, 1, [15 19], -1000, 1000, n, 20);distance{7,2}='distance from segment of classe 10 to end of orf in sens';distance{7,1}=mk_distance_hist(data, 10, [9 17], -1000, 1000, n, 20);distance{8,2}='distance from segment of classe 10 to end of orf in antisens';distance{8,1}=mk_distance_hist(data, 10, [15 19], -1000, 1000, n, 20);

titles=cell(2,1);titles{1,1}=strcat('Distance from segment to start of features for n = ',num2str(n));titles{2,1}=strcat('Distance from segment to end of features for n = ',num2str(n));for i=1:8   distance{i,3}=frequence(distance{i,1},-1000,1000,200);endfor j=0:1   figure;   xlabel('Distance (bp)');   ylabel('Frequency');   title(titles{j+1,1});   hold all   for i=1:4       if even(i)           signe = -1;       else           signe = 1;       end       id=(4*j) + i;       plot(distance{id,3}(:,1),signe * distance{id,3}(:,2))       legend(distance{id,2})

   end   legend(distance((4*j)+1:4*(j+1),2))end

la commande est distance = plot_segment_distance(data_using_max, 0);
et j’obtiens


———————fin edit———————————-

3 avril 2008 – Détail de la classification des segments

avril 3, 2008 par xtof78000

11h04 les segments après avoir été répertorié sont classifié selon leur prosition relative au 2 orf les plus proches.
on recense 4 grande classe qui dérive des position relative des orf entre elle.
les orf peuvent etre soit :

  • en tandem

  • divergentes

  • convergentes

les segments peuvent alors se positionner en fonction de ces orf.
ils vont etre soit entre des orf
l’orf an jaune est l’orf upstream du segment
l’orf en rouge est l’orf downstrean du segment

  • convergentes

  • divergentes

  • en tandem sur le meme brin (en sens)

  • en tandem sur le brin opposé (en antisens)

On a donc alors 4 classes principales notées C (convergente), D (divergente), Ts (tandem sens) et Ta (tandem antisens).
Cependant, dans chacun des ces cas il y a des sous-catégories selon la position du segment. s’il est bien entre les orf, ou légèrement chevauchant ou totalement inclut dans une orf.
on a pu ainsi definir 16 catégories, 4 pour chaque classe :

  • de 1 à 4 pour la classe Ts
    • catégorie 1

    • catégorie 2

    • catégorie 3

    • catégorie 4

  • de 5 à 8 pour la classe Ta
    • catégorie 5

    • catégorie 6

    • catégorie 7

    • catégorie 8

  • de 9 à 12 pour la classe D
    • catégorie 9

    • catégorie 10

    • catégorie 11

    • catégorie 12

  • de 13 à 16 pour la classe C
    • catégorie 13

    • catégorie 14

    • catégorie 15

    • catégorie 16

la classification des segments se fait a l’aide d’un programme simple réalisé en VBA sur excel.
il se trouve sur bambino dans F:/users/christophe/search_features_A_and_B.xls a

Sub classification()

Range("AH2").Selectligne = 0Valeur = Range("A2").Offset(ligne, 0).Value

Do Until Valeur = ""

 S = ActiveCell.Offset(ligne, -29) E = ActiveCell.Offset(ligne, -28) m = Int((S + E) / 2) sm = m - S em = E - m If Range("C2").Offset(ligne, 0) = "c" Then     signe = -1 Else     signe = 1 End If up_val = test_prox(ActiveCell.Offset(ligne, -21).Value, ActiveCell.Offset(ligne, -14).Value)

 If up_val Then     col_orf_A = -24     signe2 = 1 Else     col_orf_A = -16     signe2 = -1 End If ORF_A_name = ActiveCell.Offset(ligne, col_orf_A).Value ORF_A_gene = ActiveCell.Offset(ligne, col_orf_A + 1).Value ORF_A_start = m - (ActiveCell.Offset(ligne, col_orf_A + 2).Value * signe * signe2) ORF_A_end = m - (ActiveCell.Offset(ligne, col_orf_A + 3).Value * signe * signe2) If Not IsEmpty(ActiveCell.Offset(ligne, -6)) Then     down_val = True     col_orf_B = -8     m2S = ActiveCell.Offset(ligne, -6).Value     m2E = ActiveCell.Offset(ligne, -5).Value     signe2 = 1 ElseIf Not IsEmpty(ActiveCell.Offset(ligne, -2)) Then     down_val = False     col_orf_B = -4     m2E = -ActiveCell.Offset(ligne, -2).Value     m2S = -ActiveCell.Offset(ligne, -1).Value     signe2 = -1 Else     down_val = test_prox(ActiveCell.Offset(ligne, -18).Value, ActiveCell.Offset(ligne, -9).Value)     If down_val Then         col_orf_B = -20         m2S = ActiveCell.Offset(ligne, -18).Value         m2E = ActiveCell.Offset(ligne, -17).Value         signe2 = 1     Else         col_orf_B = -12         m2E = -ActiveCell.Offset(ligne, -10).Value         m2S = -ActiveCell.Offset(ligne, -9).Value         signe2 = -1     End If End If ORF_B_name = ActiveCell.Offset(ligne, col_orf_B).Value ORF_B_gene = ActiveCell.Offset(ligne, col_orf_B + 1).Value ORF_B_start = m - (ActiveCell.Offset(ligne, col_orf_B + 2).Value * signe * signe2) ORF_B_end = m - (ActiveCell.Offset(ligne, col_orf_B + 3).Value * signe * signe2)

 If (up_val And down_val) Then     ActiveCell.Offset(ligne, 0).Value = "Ts"     base_classe = 0 End If If (Not up_val And Not down_val) Then     ActiveCell.Offset(ligne, 0).Value = "Ta"     base_classe = 4 End If If (Not up_val And down_val) Then     ActiveCell.Offset(ligne, 0).Value = "D"     base_classe = 8 End If If (up_val And Not down_val) Then     ActiveCell.Offset(ligne, 0).Value = "C"     base_classe = 12 End If classe = test_case(sm, em, m2S, m2E) + base_classe ActiveCell.Offset(ligne, 1).Value = ORF_A_name ActiveCell.Offset(ligne, 2).Value = ORF_A_gene ActiveCell.Offset(ligne, 3).Value = ORF_A_start ActiveCell.Offset(ligne, 4).Value = ORF_A_end

 ActiveCell.Offset(ligne, 5).Value = ORF_B_name ActiveCell.Offset(ligne, 6).Value = ORF_B_gene ActiveCell.Offset(ligne, 7).Value = ORF_B_start ActiveCell.Offset(ligne, 8).Value = ORF_B_end ActiveCell.Offset(ligne, 9).Value = classe ligne = ligne + 1 Application.StatusBar = ligne Valeur = Range("A1").Offset(ligne, 0).ValueLoop

End Sub

Function test_prox(val_sens, val_anti)If Abs(val_sens) < Abs(val_anti) Then    test_prox = TrueEnd IfEnd Function

Function test_case(sm, em, m2S, m2E)    test_sS = (m2S - sm < 0)    test_eS = (m2S + em < 0)    test_sE = (m2E - sm < 0)    test_eE = (m2E + em < 0)    If test_sS And test_eS And test_sE And test_eE Then        test_case = 1    ElseIf test_sS And Not test_eS And test_sE And test_eE Then        test_case = 2    ElseIf Not test_sS And Not test_eS And test_sE And test_eE Then        test_case = 3    ElseIf Not test_sS And Not test_eS And test_sE And Not test_eE Then        test_case = 4    Else        test_case = 100    End If

End Function

Je reprends ce code pour voir pourquoi j’ai tant de différence antre les 2 méthodes et aussi pour le commenter un peu.
en le reprennant je constate que j’ai fait une faute et que je n’ai pas pris les bonnes valeur, j’ai oublié de tenir compte de la présence d’une colonne en plus (maxi)
j’ai aussi oublié que cette classification se base sur la position du milieu du segment.
je dois modifier ca aussi.

1er avril 2008 – détermination du maximum des segments de sage

avril 1, 2008 par xtof78000

les résultats de la manip de sage se présentes sous la formes de séquences dont une partie a été identifiée et localisée sur le génomes.
ces séquences ou tag, sont répartis de façon non aléatoire sur le génome et foirmes des groupes ou cluster.
l’identification de ces cluster a été effectuée par la méthode CNC (Closest Neighbour Clustering). cette méthode met bout a bout chaque brins de tous les chromosomes de la levure. on parcours ensuite l’ensemble du génome ainsi formé jusqu’a ce qu’un sage soit rencontré. on enregistre cette position (S0) puis on parcours a nouveau le génome. si on rencontre a nouveau un sage entre la position sur une distance N depuis la position du sage précédent, on enregistre cette nouvelle position pui on parcours a nouveau le génome sur une distance N et on note si un sage est présent sur cette distance. on repète cette opération tant qu’un sage est trouvé. si aucun sage est trouvé on note la position du dernier sage trouvé (E). on calcule alors entre les position S et E combien de sage il y a et s’il y en a plus que le seuil limite n (a déterminé au préalable) alors on considère que la zone de S à E est un cluster.
puis on recommence la recherche.
cette recherche a donc 2 paramètres, N et n, qui sont très important et font varier les résultats de façon importante.
en prennant N = 100 et n = 1, on obtient 14258 segments.
les résultats sont stockés dans le fichier ~/sage/total/stats/ratio2_5.mat
ils se présente sous la forme d’une matrice avec 11 colonnes (ratio2_5_100_1)
colonnes :
1 -> ratio Wt oligo d(T) / (Wt oligo d(T) + Cbp20-TAP)
2 -> position du start du segment sur le genome reconstitué
3 -> position du end du segment sur le genome reconstitué
4 -> nb de tag dans le segment
5 -> nb de tag dans le segment
6 -> reference du chromosome
7 -> start du segment sur lme chromosome
8 -> end du segment sur le chromosome
9 -> taille du segment
10 -> classe du segment (de 1 à 10 en fn du ratio)

Je dois a partir de cette matrice retrouver la position dans chaque segment pour laquelle le nb de tag est maximale.
j’ai écrit un script simple.
je parcours la matrice ligne par ligne.
je récupére les positions start et end du segment considéré sur le génome linearisé (stocké dans la matriceheader cette matrice a 24millions de lignes et 7 colonnes. ces colonnes correspondent a : 1-> manip 1 à 10; 2-> manip 1 & 2; 3-> manip 1 à 8; 4-> manip 1,2,3,4,9 et 10; 5-> manip 1,2, 7 et 8; 6-> manip 7 & 8; 7-> manip 1 à 12; c’est la colonne 5 qui nous intéresse dans ce cas)
j’extrait le segment du genome
je recherche le max de ce segment et détermine sa position dansle segment
si j’en ai plusieurs, je garde que le premier
je calcule la position du max dans le chromosome en l’ajoutant a celle du strat
je rajoute une colonne dans la matrice ratio2_5_100_1 ou je stocke cette valeur
et voila

for i=1:size(ratio2_5_100_1,1)d= ratio2_5_100_1(i,2);f=ratio2_5_100_1(i,3);segment=header(d:f,5);max_seg=find(segment==max(segment));ratio2_5_100_1(i,11)=ratio2_5_100_1(i,7) + max_seg(1) - 1;end

cette matrice est ensuite expostée en format texte tabulé avec l’extension .csv.mat par la fonction ~/sage/total/stats/save_mat.m
le fichier créé a été sauvegardé dans ~/sage/total/stats/max_segments/ratio2_5_100_1.mat.csv
je l’ai ensuite envoyé sur duanierousseau
je l’ai traité alors avec le programme ~/workspace/genepy/src/.segment.py
tout d’abord j’ai converti le fichier .csv.mat en fichier .csv lisible par excel ou openOffice

def matlab2csv(segment_path):

##===============================================================================##           Conversion fichier matlab en fichier csv##===============================================================================print "loading %s" % segment_pathfhin_mat=open("%s.mat.csv" % segment_path,'r')matlab_txt = convert_mat_file(fhin_mat)fhin_mat.close()fhin_csv=open("%s.csv" % segment_path,'w')print >>fhin_csv,"ratio\tstart_gen\tend_gen\tnb1\tnb2\tgenome_pos\tstart\tend\twidth\tgroup\tmaxi"print >>fhin_csv, matlab_txtfhin_csv.close()

le fichier crée est /home/gim2/sage/total/stats/ratio2_5/max_segments/ratio2_5_100_1.csv
puis j’ai déterminer la position des features mais en me basant non plus comme je l’ai deja fait sur le milieu des segment mais sur son maximum

def fetch_features_around_segment(segment_path):#===============================================================================#  recherche des features environantes des segments#===============================================================================#    segment_path = '%ssegments_location%s' % (dir_region, suffixe)seg_list = Segment_list(file = "%s.csv" % segment_path)print "%s read" % segment_pathdb_path='%s/bank/saccharomyces_cerevisiae.gff' % homedb_features = DBGFF.DB(db_path)fhout_path = '%ssegments_description%s' % (dir_region, suffixe)fhout = open("%s.csv" % fhout_path, 'w')segment_info_list=('id','chr', 'strand','start','end','maxi','nb1', 'ratio', 'group')feature_info_list=('feature_up_sens_name', 'feature_up_sens_gene', 'feature_up_sens_start_to_segment', 'feature_up_sens_end_to_segment',             'feature_down_sens_name', 'feature_down_sens_gene', 'feature_down_sens_start_to_segment', 'feature_down_sens_end_to_segment',             'feature_up_antisens_name', 'feature_up_antisens_gene', 'feature_up_antisens_start_to_segment', 'feature_up_antisens_end_to_segment',             'feature_down_antisens_name', 'feature_down_antisens_gene', 'feature_down_antisens_start_to_segment', 'feature_down_antisens_end_to_segment',             'feature_overlap_sens_name', 'feature_overlap_sens_gene', 'feature_overlap_sens_start_to_segment', 'feature_overlap_sens_end_to_segment',             'feature_overlap_antisens_name', 'feature_overlap_antisens_gene', 'feature_overlap_antisens_start_to_segment', 'feature_overlap_antisens_end_to_segment')print >>fhout, "%s\t%s" % (join(segment_info_list, '\t'),join(feature_info_list, '\t') )               

current_chr = ''no_feature_txt = 'no feature found'for segment in seg_list :    mid = segment.get_attribute('mid')    mid = segment.get_attribute('maxi')    chr = segment.get_attribute('chr')    rev = segment.get_attribute('rev')    if chr != current_chr:        feature_chr = db_features.getDBChr2(chr)        current_chr = chr        feature_w = feature_chr.select('rev', False)        feature_c = feature_chr.select('rev', True)        f_start_w = feature_w.get_list_attr('start')        f_end_w = feature_w.get_list_attr('end')        f_coord_w = zip(f_start_w, f_end_w)        f_w = dict(zip(f_coord_w, feature_w))        f_start_c = feature_c.get_list_attr('start')        f_end_c = feature_c.get_list_attr('end')        f_coord_c = zip(f_start_c, f_end_c)        f_c = dict(zip(f_coord_c, feature_c))        key_w = f_w.keys()        key_w.sort(key=operator.itemgetter(0))

        key_c = f_c.keys()        key_c.sort(key=operator.itemgetter(0))        print chr

    dist_f_start_w = map(lambda x : x - mid, f_start_w)    dist_f_end_w = map(lambda x : x - mid, f_end_w)    dist_f_start_c = map(lambda x : x - mid, f_start_c)    dist_f_end_c = map(lambda x : x - mid, f_end_c)

    dist_f_start_w_up = filter(lambda x : x  0, dist_f_start_w)    dist_f_end_w_down = filter(lambda x : x > 0, dist_f_end_w)    dist_f_start_c_up = filter(lambda x : x  0, dist_f_start_c)    dist_f_end_c_down = filter(lambda x : x > 0, dist_f_end_c)

    f_start_w_up = extreme(dist_f_start_w_up, max)    f_end_w_up = extreme(dist_f_end_w_up, max)    f_start_w_down = extreme(dist_f_start_w_down, min)    f_end_w_down = extreme(dist_f_end_w_down, min)    f_start_c_up = extreme(dist_f_start_c_up, max)    f_end_c_up = extreme(dist_f_end_c_up, max)    f_start_c_down = extreme(dist_f_start_c_down, min)    f_end_c_down = extreme(dist_f_end_c_down, min)

    f_coord_w_up = (f_start_w_up + mid, f_end_w_up + mid)    f_coord_w_down = (f_start_w_down + mid, f_end_w_down + mid)    f_coord_c_up = (f_start_c_up + mid, f_end_c_up + mid)    f_coord_c_down = (f_start_c_down + mid, f_end_c_down + mid)

#                print mid#                print f_coord_w_up#                print f_coord_w_down#                print f_coord_c_up#                print f_coord_c_down

    f_start_w_over = 0    feature_w_up = f_w.get(f_coord_w_up, None)    while not feature_w_up :        if not f_start_w_up :            break        f_start_w_over = f_start_w_up        dist_f_start_w_up.remove(f_start_w_up)        f_start_w_up = extreme(dist_f_start_w_up, max)        f_coord_w_up = (f_start_w_up + mid, f_end_w_up + mid)

        feature_w_up = f_w.get(f_coord_w_up, None)

    f_end_w_over = 0    feature_w_down = f_w.get(f_coord_w_down, None)    while not feature_w_down :        if not f_end_w_down :            break        f_end_w_over = f_end_w_down        dist_f_end_w_down.remove(f_end_w_down)        f_end_w_down = extreme(dist_f_end_w_down, min)        f_coord_w_down = (f_start_w_down + mid, f_end_w_down + mid)        feature_w_down = f_w.get(f_coord_w_down, None)

    f_start_c_over = 0    feature_c_up = f_c.get(f_coord_c_up, None)    while not feature_c_up :        if not f_start_c_up :            break        f_start_c_over = f_start_c_up        dist_f_start_c_up.remove(f_start_c_up)        f_start_c_up = extreme(dist_f_start_c_up, max)        f_coord_c_up = (f_start_c_up + mid, f_end_c_up + mid)

        feature_c_up = f_c.get(f_coord_c_up, None)

    f_end_c_over = 0    feature_c_down = f_c.get(f_coord_c_down, None)    while not feature_c_down :        if not f_end_c_down :            break        f_end_c_over = f_end_c_down        dist_f_end_c_down.remove(f_end_c_down)        f_end_c_down = extreme(dist_f_end_c_down, min)        f_coord_c_down = (f_start_c_down + mid, f_end_c_down + mid)        feature_c_down = f_c.get(f_coord_c_down, None)

    f_coord_w_over = (f_start_w_over + mid, f_end_w_over + mid)    feature_w_over = f_w.get(f_coord_w_over, None)

    f_coord_c_over = (f_start_c_over + mid, f_end_c_over + mid)    feature_c_over = f_c.get(f_coord_c_over, None)

    if rev :        feature_sens_up = feature_c_down        f_dist_sens_up = (f_end_c_down,f_start_c_down)        feature_sens_down = feature_c_up        f_dist_sens_down = (f_end_c_up,f_start_c_up)        feature_anti_up = feature_w_down        f_dist_anti_up = (-f_start_w_down,-f_end_w_down)        feature_anti_down = feature_w_up        f_dist_anti_down = (-f_start_w_up,-f_end_w_up)        feature_sens_over = feature_c_over        f_dist_sens_over = (f_end_c_over,f_start_c_over)        feature_anti_over = feature_w_over        f_dist_anti_over = (-f_start_w_over,-f_end_w_over)

    else :        feature_sens_up = feature_w_up        f_dist_sens_up = (-f_start_w_up,-f_end_w_up)        feature_sens_down = feature_w_down        f_dist_sens_down = (-f_start_w_down,-f_end_w_down)        feature_anti_up = feature_c_up        f_dist_anti_up = (f_end_c_up,f_start_c_up)        feature_anti_down = feature_c_down        f_dist_anti_down = (f_end_c_down,f_start_c_down)        feature_sens_over = feature_w_over        f_dist_sens_over = (-f_start_w_over,-f_end_w_over)        feature_anti_over = feature_c_over        f_dist_anti_over = (f_end_c_over,f_start_c_over)

    fhout.write(segment.__str__(segment_info_list))    feature_info = ()    if feature_sens_up :        feature_sens_up_info = (feature_sens_up.getattribute('name'),feature_sens_up.getattribute('gene')) + f_dist_sens_up    else :        feature_sens_up_info = ('', '', '', '')    feature_info += feature_sens_up_info

    if feature_sens_down :        feature_sens_down_info = (feature_sens_down.getattribute('name'),feature_sens_down.getattribute('gene')) + f_dist_sens_down    else :        feature_sens_down_info = ('', '', '', '')    feature_info += feature_sens_down_info

    if feature_anti_up :        feature_anti_up_info = (feature_anti_up.getattribute('name'),feature_anti_up.getattribute('gene')) + f_dist_anti_up    else :        feature_anti_up_info = ('', '', '', '')    feature_info += feature_anti_up_info

    if feature_anti_down :        feature_anti_down_info = (feature_anti_down.getattribute('name'),feature_anti_down.getattribute('gene')) + f_dist_anti_down    else :        feature_anti_down_info = ('', '', '', '')    feature_info += feature_anti_down_info

    if feature_sens_over :        feature_sens_over_info = (feature_sens_over.getattribute('name'),feature_sens_over.getattribute('gene')) + f_dist_sens_over    else :        feature_sens_over_info = ('', '', '', '')    feature_info += feature_sens_over_info

    if feature_anti_over :        feature_anti_over_info = (feature_anti_over.getattribute('name'),feature_anti_over.getattribute('gene')) + f_dist_anti_over    else :        feature_anti_over_info = ('', '', '', '')    feature_info += feature_anti_over_info

    if feature_sens_over and feature_anti_over :        print mid#                    feature_over_info = zip(feature_sens_over_info, feature_anti_over_info)#                    feature_over_info = tuple(map(lambda x : join(x, ' / ') , feature_over_info))    print >>fhout, join(map(str,feature_info), '\t')fhout.close()

le fichier créé est /home/gim2/sage/total/stats/ratio2_5/max_segments/ segments_description2_5_100_1.csv
le fichier est ouvert avec excel sur bambino et la macro du fichier F:/users/christophe/search_features_A_and_B.xlsest utilisée pour trouver les features A & B et pour classifier les segment
j’obtiens le fichier F:/users/christophe/segment_distance_to_features_using_max.xls
j’exporte ce fichier sur douanierousseau.
je vais comparer la classification obtenue evec celle obtenue pour le calcul des distance avec le milieu des segments.
j’ai donc 2 fichiers
~sage/total/stats/ratio2_5/max_segments/segment_distance_to_features_using_max.xls
~sage/total/stats/ratio2_5/max_segments/segment_distance_to_features_using_mid.xls
j’utilise la fonction grep pour trouver toute les catégories

cut -f42 segments_distance_to_feature_using_mid.txt | sort | uniq > categories

et j’ai dans categories

11010010410811112121314151623456789

j’utilise grep pour compter chacune des lignes appartenant a ces catégories

while read line   do       n=$(cut -f42 segments_distance_to_feature_using_mid.txt | sort | grep -w $line -c)       echo categorie $line    $n segments   done &lt categories

et je récupère pour les deux fichiers

 
catégorie mid to feature max to feature
1 2417 2451
2 196 0
3 1334 1388
4 22 0
5 1103 1133
6 240 0
7 2012 2083
8 33 0
9 1535 1571
10 218 0
11 1494 1571
12 24 0
13 1917 2024
14 378 0
15 1225 1271
16 24 0
100 11 137
104 21 193
108 32 162
112 23 274

les résultats sont assez proche mais on vois que certaine catégories ont disparues au profit des catégories non définies àla fin.
je referai le point sur ces catégories pour savoir exactement ce qu’il se passe.

31 3ars 2008 – parser global, la suite

mars 31, 2008 par xtof78000

12h29 : le parser actuellment ne gère pas la possibilité qu’il n’y ai pas de ligne de titre pour les colonnes, je vais le rajouter.
l’option est assez simple. si rien n’est mentionné le parser suppose qu’il y a une ligne de titre a récupéré. si une liste nom de colonne est passée en argument (genre column_names=['colonne A', 'colonne B', 'colonne C'] elle est utilisée comme liste par défaut. si l’argument est column_names=None, alors la liste de nom de colonne sera choisie arbitrairement (par ex col_0, col_1, col_2).
j’en ai profité pour modifié un peu l’__init__.
on peut lui passer une liste d’argument en entrée.
les mots clés reconnus pour l’instant sont filename, file, file_arg, tous les 3 pour le nom du fichier a parser (c’est juste pour laisser plus de liberté) et column_names.

def __init__(self, **arg):        '''        x = Items(**arg)        open and read the file to parse.        parse it according to the specified options        arg keys :        file, filename or file_arg -> str, identifier for the file to parse        column_names -> optional. must be NOT specified if the column names are in the file to parse         must be specified if there is no column names in the file.            - column names are given as a list or tuple            - if value None affected, column names will be assigned automatically.        '''        #initialize a flag dictionary        self.flag = {}        #get the column_names argument        self.flag['column_names'] = arg.get('column_names', False)        #get the filename argument (3 possibilities)        file_arg = arg.get('filename', '')        if not file_arg : file_arg = arg.get('file', '')        if not file_arg : file_arg = arg.get('file_arg', '')        try :            #call get_fhin to open file_arg            fhin = self.get_fhin(file_arg)

        except TypeError, e :            #if error of type of the argument file_arg returned, raise the error            print e            raise        except IOError :            #if problem for opening file_arg, raise the error            raise        #if the file is open and readable start to parse the file        self.parse_file(fhin)        #do some after init actions like closing files        self.__end_init__(fhin)

le module de test tel qu’il est fait vérifie bien que toutes les infos ont été parsées mais ne vérifie pas que ce sont bien les bonnes données qui sont dans les bons attributs.
pour cela il me faut des accesseurs pour les items.
J’ai ajouté la méthode get_attribute() a item. cette méthode renvoie la valeur affectée à un attribut passé en argument et none si l’attribut n’existe pas.

    def get_attribute(self, attr):        '''        val = x.get_attribute(attr)        attr -> str        val -> str, int, float or boolean        return the value of an attribute if exists, None if not        '''

        return self.get(attr, None)

j’ai également ajouté get_attr_list() à items qui renvoie la liste des valeurs affectées a un attribut passé en argument pour l’ensemble des item stockés dans la collection

    def get_attr_list(self, attr):        '''        values = x.get_attr_list(attr)        attr -> str        values -> list of str, int, float, boolean or None        return a list containing values of the given attr for all items in x        '''        return [item.get_attribute(attr) for item in self]

puis j’ai ajouté un nouveau module de test pour verifier que toutes les info sont bien récupérées.

    def test_parsed_data(self):        '''        teste si les donnees parsees sont correctes        '''        header_info_1 = "header_01"        header_info_2 = "header_02"        col_1 = "col_1"        col_2 = "col_2"        col_3 = "col_3"        data_l1_c1 = "data_l1_c1"        data_l1_c2 = "data_l1_c2"        data_l2_c1 = "data_l2_c1"        data_l2_c2 = "data_l2_c2"        test_file='''#%s#%s%s\t%s%s\t%s%s\t%s''' % (header_info_1, header_info_2, col_1, col_2, data_l1_c1, data_l1_c2, data_l2_c1, data_l2_c2)        self.write_tmp_file(filetext = test_file)        test_item = Items(file_arg = 'tmp_file')        self.assert_(test_item.get_header() == [header_info_1,header_info_2])        self.assert_(test_item[0].get_attribute(col_1) == data_l1_c1)        self.assert_(test_item[0].get_attribute(col_2) == data_l1_c2)        self.assert_(test_item[1].get_attribute(col_1) == data_l2_c1)        self.assert_(test_item[1].get_attribute(col_2) == data_l2_c2)        self.assert_(test_item[0].get_attribute(col_3) == None)        self.assert_(test_item[1].get_attribute(col_3) == None)               self.assert_(test_item.get_attr_list(col_1) == [data_l1_c1, data_l2_c1])        self.assert_(test_item.get_attr_list(col_2) == [data_l1_c2, data_l2_c2])        self.assert_(test_item.get_attr_list(col_3) == [None, None])

        remove('tmp_file')

a faire demain -> les données sont pour l’instant parsées indépendamment de leur contenu. elles sont toutes stockées comme texte. il faut que je rajoute le module de conversion…

26 mars 2008 – répartition aleatoire de sage sur le génome

mars 26, 2008 par xtof78000

17h18 :
Je veux savoir si une répartition des sage aléatoire sur le génome produirait les memes résultats en terme de segments.
l’idée est de répartir sur les 24 million de position possible les 267000 tags de façon aleatoire, puis de rechercher les segments de la meme manière qu’avec les vraies données et ensuite de regarder la tailles des segments produites.
1- je pars des valeurs suivante
genome : 24 313 356 bases
tag, après filtration (juste tag unique et correct) 267023 tag
2- dans matlab je fait une répartition random de ces tags.
pour cela je genere 267023 valeurs aléatoire que je multiplie par la taille du génome
j’ai alors 267023 valeurs comprise entre 0 et 24313356

rand_tag=zeros(267023,1);for i=1:267023rand_tag(i,1)=gen*rand();end

on reparti dans une matrice de la taille du genome ces différents tag

g=zeros(24313356,1);for i=1:267023g(ceil(rand_tag(i,1)))=g(ceil(rand_tag(i,1))) + 1;end

je fait appelle ensuite à la fonction region_hit

cpt = region_hit(g, 1,1,1,1);

je recupère en sortie une matrice
–> cette méthode n’est pas la bonne car je vais etudier la répartition des segments sur une ditribution aléatoire. hors ce n’est pas exactement ce que je veux montrer.
je veux finalement montrer que c’est la distrivution des sage (ou le tirage) qui est ou pas aléatoire.
je suis parti sur l’idée d’un tirage aléatoire.
je ne le fait que sur les tag des manip 1 et 2.
ca en fait 77000
je fait un randperm sur une matrice de la taille du génome et je sélection les 77000 premie résultats.
ce seront les 77000 position aléatoire de mes tag

>> taille_gen=24313356;>> gen=[1:taille_gen];>> x=randperm(taille_gen);>> rand_tag_12=gen(x(1:77212));>> rand_tag_12=sort(rand_tag_12');>> dist_rand_tag12=diff(rand_tag_12);>> hist(dist_rand_tag12,100)

et je récupère en sortie

je fait la meme chose sur les tag des manip 1 & 2
j’utilise le fichier matlab ~/total/stats/tag_tot_genome.mat

n12 = sum(header01) + sum(header02);tag12=zeros(n12,1);j=1;for i=1:size(header01,1)t=header01(i,1);if (t>0)  for k=1:t     tag12(j,1)=i;     j=j+1;  endendendfor i=1:size(header02,1)t=header02(i,1);if (t>0)  for k=1:t     tag12(j,1)=i;     j=j+1;  endendendtag12=sort(tag12);dist_tag12=diff(tag12);hist(dist_tag12(find(dist_tag12<3500)),100)

et je récupère

on voit bien que les distributions sont différentes mais il faudrait une valeur numérique pour le prouver.
on a pour la distribution des tag 1 et 2 :

>>mean(dist_tag12)ans =306.8112>> median(dist_tag12)ans =0>> std(dist_tag12)ans =1.4071e+03

et pour la dsitribution aléatoire

>> mean(dist_rand_tag12)ans =314.8891>> median(dist_rand_tag12)ans =218>> std(dist_rand_tag12)ans =316.0702

on voit bien que la mediane est très différente.
mais ce n’est peut-etre pas un critère suffisant
le test du chi2 permet de voir si une distribution est aléatoire ou non
prennons la taille du génome totale -> 24313356
prennons le nb de tag 1 et 2 -> 77212
s’il sont répartis de façon homgène sur le génome ca fait 1 tag tout les 314 nucleotide environ.
imaginons qu’il soient réparti selon une distribution normal centrée autour de cette distance moyenne.

>> g2=randn(77212,1);>> g2=g2+abs(min(g2));>> mean(g2)ans =4.3959>> coeff = 314/4.3954coeff =71.4383>> g2=g2*coeff;>> hist(g2,100)>> [h,p]=chi2gof(g2)h =0p =0.7848

la distribution de ces distances est la suivante


avec une p-value sur le test de chi2 de 0.7848,
donc une proba très forte que cette distribution soit aléatoire.
Si je représente la distribution des distance entre tag des manip 1 et 2
(voir au-dessus), on voit que celle-ci est centrée sur 0, donc la plupart
des tag sont très proches entre eux

le test du chi2 sur cette distribution donne :

>> [h,p]=chi2gof(dist_tag12, 'nbins',32)h =1p =0

une p-value de 0, soit une proba nulle que ce soit une distribution aléatoire.
on calcule pour la distrib aléatoire

>> median(g2)ans =  314.8353>> mean(g2)ans =  314.8909>> std(g2)ans =   71.6086

et pour les manip

>>mean(dist_tag12)ans =306.8112>> median(dist_tag12)ans =0>> std(dist_tag12)ans =1.4071e+03

je fais ensuite la meme chose pour les tag des manip 7 et 8

n78 = sum(header07) + sum(header08);tag78=zeros(n78,1);j=1;for i=1:size(header07,1) t=header07(i,1); if (t>0)     for k=1:t         tag78(j,1)=i;         j=j+1;     end endendfor i=1:size(header08,1) t=header08(i,1); if (t>0)     for k=1:t         tag78(j,1)=i;         j=j+1;     end endendtag78=sort(tag78);dist_tag78=diff(tag78);

puis je fais une distribution aléatoire de tag équivalente

g=randn(69549,1);>> g=g+abs(min(g));>> mean(g)ans = 4.3684>> 24313356/69549ans =349.5860>> coeff = 349/4.3684coeff =79.8920>> g=g*coeff;>> hist(g,100)

j’obtiens pour la distribution aléatoire

>> [h,p]=chi2gof(g)h =   0p =  0.7109

soit une proba de 0.7 que ce soit une distrib aléatoire
avec la distrib suivante

et pour les tag

>> [h,p]=chi2gof(dist_tag78, 'nbins',25)h =   1p =   0

soit une proba nulle que ce soit aléatoire
avec la distrib suivante

pour cette distribution on a

>> mean(dist_tag78)ans =  348.9803>> median(dist_tag78)ans =     0>> std(dist_tag78)ans =   1.5912e+03

et pour la distrib aléatoire

>> median(g)ans =  348.9698>> mean(g)ans =  348.9981>> std(g)ans =   80.0903

les images sont dans ~/Desktop/screenshot/tags

26 mars 2008 – parser global, browsing du fichier

mars 26, 2008 par xtof78000

10h44 : je vais donc écrire les méthodes pour parcourir les fichiers et effectuer les actions adaptées selon la ligne.
il faut prévoir tous les cas. voila ce que je pense faire.
une méthode de pré-traitement, vide par défault pour analyser le header de façon spécifique
une méthode de browsing avec un filtre qui met de coté les lignes du header (ca peut etre optionnel aussi)
les ligne de data sont récupéré dans une liste
une méthode d’analyse de la première ligne pour déterminer les nom de colonne, optionnel aussi
une méthode de traitement de toutes les autres lignes.

j’ai créé ces méthodes.
le programme suit donc la logique suivante :
parsing du header par une méthode spécifique. -> celle-ci est vide par défaut mais elle devra etre surclasser si besoin dans les parser qui dériveront ce celui-ci
browsing de tout le fichier et stockage des lignes dans une liste. au moment de ce stockage, les lignes sont testée pour savoir s’il elle sont valides.
je teste si ce n’est pas une ligne vide et si ce n’est pas du commentaire. a noter que ce que j’appelle commentaire est le header du fichier. je stocke ce header dans une liste mais un objet header serait plus malin. je ferai ca
une fois que j’ai récupéré les lignes valides, je cherche dans la première ligne les nom des colonne. il faut que je puisse m’affranchir de ca. je vais ajouter une option a l’instanciation de item pour préciser s’il y a une ligne de titre de colonne.
et sinon, il faut pouvoir fournir des noms de colonne ou les générer s’ils ne sont pas fournis
ensuite je parcours la liste des données et je parse chaque ligne en splitant sur le séparateur de champ et je créé une instance de Item en lui passant la liste des valeurs et des attributs.
Item va alors faire des couple de valeurs nom de colonne/valeur et va rentrer l’ensemble de ces couple dans son dictionnaire interne (car item hérite de dict).
je récupère chaque item dans une liste
et cette liste est ajoutée a la liste interne de Items (qui hérite de list)
et voial, c’est parsé. c’est beau non ?
je suis pas certain que ce soit l’algo le plus efficace car je parcours plusieurs fois les données. le problème est surtout que je stocke le fichier dans une liste temporaire. ce n’est pas très bien si on ne connait pas la taille du fichier avant.
mais bon, deja je peux faire une vérif de la taille du fichier avant et aussi la capacité des micro permet facilement de gerer ca je pense. les liste ne devraient pas faire plus de qq centaine de millier de ligne, a mon avis moins d’un million. en tou cas pour le moment. ce n’est pas très dur de modifier ce code pour mieux traiter les gros fichiers. il suffit de parser les ligne lors du browsing.

j’ai aussi mis en place la partie test de ces méthodes.
je créer des fichiers en faisant varier le nb de ligne, de colonnes et aussi le nb de ligne de header et je test si le fichier est bien parsé, si j’ai le bon nombre de lignes (taille de la liste items), le bon nombre de colonne (taille des objet item contenus dans items) et le bon nombre de ligne dans headers.
je teste aussi les fichiers vide, les fichier sans header, les fichiers sans valeurs, juste des noms de colonnes. il faut aussi que je teste les fichiers qui n’ont pas de ligne de titre de colonne. mais pour ca je dois modifier le programme pour gérer cette option.
il me faut aussi prévoir des fichiers qui auraient été mal fait. comme par exemple des lignes vides, des colonnes vides, des ligne sans le meme nombre de valeurs

en testant ces fichiers, j’ai vu que
-si une ligne est vide mais qu’elle contient juste une tabulation ca génère une erreur. a voir si c’est important. ca venait peut-etre aussi du fait que c’était la première ligne parsée, avant celle des attributs
-si j’ai moins d’élément dans la ligne que le nb de colonne, alors certain attributs de colonnes vont manquer dans l’objet item. ca peut-etre génant, mais c pas sur non plus
sinon ca marche bien.
lundi il faudra ajouter la gestion de la ligne de titre de colonne absente et gérer ces petites erreurs eventuellement.

25 mars 2008 – vers un parser global

mars 25, 2008 par xtof78000

14h19 : j’ai ecrit plusieurs parser pour différents format de fichiers.
ceux-ci sont toujours basé sur la meme structure. un objet item dans lequel seront stockés les info d’une ligne (ou d’un ensemble de lignes) et un objet collection qui rassemble l’ensemble des items.
l’objet collections gere a peu pret tout. cela dit c’est l’objet item qui parse les lignes individuelles mais ce n’est peut-etre pas une bonne idée.
en fait si on veut créer un super-parser d’ou hériteront tous les autres, c’est compliqué de travailler avec 2 classes qu’ils faudra manipuler.
meme si je préfère donner plus de responsabilité a la classe item, je vais bcp limiter celle-ci et les transferer sur la classe collections.
a moins que je puisse vraiment les donner a la classe item en lui transferant la fonction de parsing.
bon, il faut que je vois comment on passe des fonctions en argument.
en cherchant ca, j’ai trrouver un passage d’un livre sur les test de fonction.
il semble que ce soit très important. je vais donc essayer de travailler dans ce sens en créant des fonction de test de mon programme.
la fonction assert permet de faire les test facilement.
–> le passage d’une fonction en argument est on ne peut plus simple. je vais donc utiliser cela avec ma classe item.
bon, commençons ce parser de façon simple.
tout d’abord il faut créer une classe items qui sera ma collection d’item.
celle-ci va commencer par traiter un fichier ou un filehandle.
le nome du fichier ou l’instance du filehandle correspondant est passé en argument.
je met en place un système de gestion d’erreur pour tester la validité des fichiers présents.

class Items(list) :  '''  class Items  classe generique pour creer un parser.  cette classe est une collections d'objet item  '''  def __init__(self, file_arg):      '''      x = Items(filename) or x = Items(filehandle)      open and read the file to parse.      parse it according to the specified options      '''      try :          fhin = self.get_fhin(file_arg)      except TypeError, e :          print e          raise

      except IOError :          raise

  def get_fhin(self, file_arg):      '''      fhin = x.get_fhin(file_arg)      test the type of the argument, return the matching filehandle if any or raise a TypeError      '''      if type(file_arg) == file :          return file_arg      if type(file_arg) == str :          try :              return self.open_file(file_arg)          except IOError, e :              print e              raise

      raise TypeError, 'the argument is not a regular file object'

  def open_file(self, filename):      if not isfile(filename) :          raise IOError, "file %s doesn't exist" % filename      if not access(filename, R_OK) :          raise IOError, "permission denied for file %s" % filename      return open(filename, 'r')

j’implémente en meme temps un module de test pour ce programme. j’utilise le framework unittest qui est très simple.
pour cette première partie, dans lme module de test je créé d’abord un fichier a parser et je vérifie qu’il s’ouvre bien.
je teste aussi que les erreurs sont bien repérées.

from parser import *from string import joinimport unittestfrom os import remove, chmod

class parser_test_case(unittest.TestCase):  '''  Classe de test de parser.py.  herite de unittest.TestCase  execute automatiquement la methode setUp a l'initialisation  puis toute les fonctions commencant par test_  puis la methode tearDown (uniquement si setUp n'a pas renvoye d'erreur)  '''

  def setUp(self):      '''      mise en place des element de test      s'applique automatiquement la fin du test      '''      #definition d'un nom de fichier      self.filename = 'tmp_parse.txt'      #creation du fichier temporaire      self.create_tmp_file(filename = self.filename)

  def tearDown(self):      '''      nettoyage des elements mis en place dans le setup      s'applique automatiquement la fin du test      '''      #effece le fichier cree dans le setup      remove(self.filename)   

  def test_read_file(self):      '''      fonction test de lecture de fichier           '''      #ouvre le fichier qui a ete cree dans le setup en lecture      fhin = open(self.filename)      #cree une instance de items avec ce filehandle      test_item = Items(fhin)      #teste si une instance de Items a bien ete cree      self.assert_(isinstance(test_item, Items))      #ferme le fichier      fhin.close()      #cree une instance de items en passant juste le nom de fichier      test_item = Items(self.filename)      #teste si une instance de Items a bien ete cree      self.assert_(isinstance(test_item, Items))      #teste si le passage d'un argument du mauvais type renvoie bien l'erreur      self.assertRaises(TypeError, Items, 2)      #teste si l'ouverture d'un fichier inexistant renvoie une erreur      self.assertRaises(IOError, Items, 'toto')      #retire tous les droits d'acces au fichier cree      chmod(self.filename, 000)      #test si l'ouverture de fichier sans droit de lecture renvoie uen erreur      self.assertRaises(IOError, Items, self.filename)

  def write_header(self, fhout):      '''      x.write_header(fhout)      ecriture d'un header dans le fichier      '''      #defini le header      header = '#header line'      #ecrit le header dans le fichier      print >>fhout,header

  def write_line(self, fhout, values):      '''      x.write_line(fhout, values)      ecriture des valeurs contenues dans une collection (values)      sous la forme d'une ligne dons les element sont separes par une tabulation      '''      #concatene les valeurs de la liste      line = join(values, '\t')      #ecrit la ligne dans le fichier      print >>fhout, line

  def write_data(self, fhout):      '''      x.write_data(fhout)      ecrit le contenu du fichier      '''      #definit les intitules des colonnes           attr = ('col1', 'col2')      #defini les valeurs sous forme d'une liste de liste. chaque sous-liste correspond a une ligne      data = (              ('data1.1',),              ('data1.2',),              )      #appel la fonction write_line pour ecrire les noms des colonnes      self.write_line(fhout, attr)      #map sur la liste data pour appeler sur chaque element la fonction write_line      map(lambda x :  self.write_line(fhout, x), data)

  def create_tmp_file(self, filename):      '''      x.create_tmp_file(filename)      creation d'un fichier qui sera parse      '''      # creation du fichier      fhout = open(filename,'w')      #appel de la fonction de creation du header      self.write_header(fhout)      #appel de la fonction de creation du corp du fichier      self.write_data(fhout)      #fermetur du fichier      fhout.close()

if __name__ == '__main__' :  #lance tous les classes de test du module  unittest.main()

je recupère en sortie

the argument is not a regular file objectfile toto doesn't existpermission denied for file tmp_parse.txt.----------------------------------------------------------------------Ran 1 test in 0.001s

OK

j’ai donc maintenant une objet capable d’ouvrir un fichier ou de récupéré un filehandle. bon, c’est pas très avancé pour l’instant.
une fois qu’on a le filehandle, il faut donc le parcourir.
on a plusieurs choix. parcourir tout le ficher, mettre les ligne dans une structure et y revenir après, ou analyser chaque ligne et faire l’action qui va bien en fonction de ce qu’on voit.
la première méthode permet un parsing plus complexe car on peut ainsi analyser les lignes assez finement mais ca necessite de stocker les info dans une liste qui peut s’averer grosse.
la deuxième n’a pas cet inconvénient mias necessite de faire le parsing a la volée, il faut donc que toutes les actions soient définies avant.
partons sur la méthode utilisant moins de mémoire. on a plusieurs chose a retrouver.
il y a donc la partie header, la liste des colonnes et les valeurs.
mais ca c’est en supposant que le fichier est toujours sous cette forme, des meta-données en haut, puis un tableau avec le nom des colonnes dans la première ligne.
c’est vrai que c’est comme ca dans la majorité des cas. on peu imaginer que pour des fichiers très différents on fera un parser très différent.
maintenant il se pose un autre problème. mers teste sur les fichier gal m’ont montré qu’il était plus intéressant pour ce type de fichier de savoir le nombre de ligne du header (qui est indiqué dans la 2eme ligne du fichier). du coup le parsing du header se fait sur un nb de ligne définit. mais ce n’est pas possible dans les cas plus généraux.
a mon avis il faut que les méthodes de parsing soient modifiables ou alors que simplement surclasser les méthodes dans les classes spécifique du fichier gal.
ca semble plutot pas mal de surclasser.
dans ce cas, ca permet un peu de liberté et surtout ca evite d’avoir a penser à des méthodes trop générales.
reprennons. il nous faut une méthode browse qui va parcourir le fichier et extraire chaque ligne. on peut imaginer une méthode spéciale qui précederai le browse pour recuperer des infos dans les première lignes. ca serait une action optionnelle un peu dans le genre du setup de testCase.
le browse que j’utilise jusqu’a present tire parti des list comprehension ce qui permet un parcours rapide du fichier et créé une liste qui va etre ajoutée a iItems (qui herite du format list).
le probleme est que si je fais ca sur tout le fichier, il va y avoir des lignes a traiter different et que je ne veux pas ajouter dans la liste.
il me faut un systeme pour trier les ligne dans le liste comprehension, le tri va alors renvoyer vers une methode traitant les ligne de headers. c’est pourtant pas tout a fait correcte de faire ca.

14 mars 2008 – recherche d’un module R pour python

mars 14, 2008 par xtof78000

14h12 : Pour SganArrayl il va etre nécessaire de traiter les valeurs par des modules statistiques accessibles dans des package R.
comme je compte tout refaire en python, l’idéal serait d’interfacer avec R a partir de python.
il me faut donc un module pour ca.
une petite recherche de google donne déja un premier apercu de ce qu’il existe.
première piste

Il n’y a pas vraiment d’autre module d’interface avec R. je vais essayer celui la.
au passage j’ai trouvé un document qui met en correspondance les fonction matlab, R et Python (NumPy). très pratique je pense. on le trouve ici : http://www.scribd.com/doc/26685/Matlab-Python-and-R
document.write(”);

Read this doc on Scribd: Matlab, Python, and R

var scribd_doc = new scribd.Document(26685, ‘ffe3v3jpfltbv’); scribd_doc.write(‘embedded_flash_26685_o9kh7′);
avec le document c’est encore mieux

————–edit du 25 mars 2008——————–
bon, j’ai pas mal galéré avec le module RSPython.
j’avais d’ailleurs trouvé un autre module, RPython (http://rpy.sourceforge.net/) mais pas vraiment plus simple a installer.
j’ai installé rpy très facilement sur douanierousseau / ubuntu feisty avec synaptic.
par contre j’ai essayé sur berthemorisot et ca a été beaucoup plus dur.
premier esssai sudo yum install rpy
ca semble s’installer mais bien sur quand je lance python et que j’importe le module rpy j’ai une erreur.
je télécharge le fichier source du module et décide de le compiler moi-meme, ce qui me permettra de l’installer dans python2.5 installer sur berthemorisot dans le répertoire tools de l’utilisateur gim.
dans le fichier d’instruction d’installation, il est précisé que R doit etre installé en librairies partagées. j’ai supposé que c’était le cas et j’ai essayé d’installé le package rpy mais ca n’a pas marché.
j’ai essayé de réinstallé R par yum mais ca n’a pas marché non plus.
j’ai essayé d’ajouter au pythonpath les répertoires ou se trouve rpy.
ca m’a permis de faire import rpy mais j’avais une erreur. impossible de trouver le module _rpy2041.so.
comme je l’ai sur ma machine, je le copie sur berthemorisot, mais ca ne marche pas, il faut qu’il soit compilé sur la machine ou il est installé.
je fini par télécharger la source de R, la réinstaller avec l’option qui va bien, ce qui se passe très bien sur centos.
puis je réinstalle rpy
j’ai encore qq erreur due aux chemin d’accès qui ne sont pas mis tout seul dans le pythonpath.
je rajoute les bons chemins et je modifie un peu rpy.py (voir ici).
au final ca marche sur python2.5, c cool.
tous les tests ne passent pas mais bon, on verra a l’usage.
j’ai réussi a m’en servir un peu qd meme. sur les fonction de base, pas de problème, l’interface est très simple.
je mettrais un tutorail en ligne dés que je commencerais a m’en servir vraiment.

13 mars 2008 – identification des tags du fichier gal

mars 13, 2008 par xtof78000

18h28 : après avoir vu que le fichier de délétion ne contient pas tous les tags du fichier gal (ici) je recherche dans uin autre fichier si je peux trouver ces séquences.
ce fichier ( /home/gim2/bioinfo/microarray/original_vs_repair.txt) contient les sequence des tag qui ont été identifiés sur la puce comme étant mal séquencé. il donne la coorespondance avec la bonne séquence.

ORF Batch Tag Original_sequence Repaired_sequence Avgerage_signal_repaired Avgerage_signal_original Defect_score Sequencing_data Recommended_version
YAL016W chr00_12 down GTAGACGGAGGATTATTCAC GTAGACGGAGGATTATCAC 1879.5 590.45 4 data_not_checked repaired
YBL022C chr2_1 down CTGCGAGCAATCAGCCGATA CTGTGAGCAATCAGCCGATA 79.6 74.65 4 data_ok repaired
YBL025W chr2_1 down CTGCTGCGAAGTTCCGAGAA CTGCTGCGAAGTTCCCGAGAA 3607.55 2536.5 8 data_not_checked repaired
YBL046W chr2_1 down CTTGCGAAGTGTATTCACCA CTTGGCGAAGTGTATTCACCA 1230.55 648.4 4 data_not_checked repaired
YBL054W chr2_1 down GAAGTGCGGCTAATATGCTA GAAGTGCGGCTAACATGCTA 4143.4 2695.45 7 data_not_checked repaired
YBL060W chr2_1 down GACCCAATTCTACAGCGTAA GACCCATTCTACAGCGTAA 3901.4 2245.7 7 data_not_checked repaired
YBL077W chr2_1 down GAGAGACCATGCAGCCGATA GAGAGACCATGCAGCGATA 3599.85 2338.7 5 data_not_checked repaired
YBL080C chr2_1 down GAGAGTGGAATCGCTCATAA GAGAGTGGATCGCTCATAA 2906.7 1226 9 data_not_checked repaired
YBL085W chr2_1 down GAGGGTCTAATCCTGAGTAA GAGGGTCAATCCTGAGTAA 2805.55 783.9 8 data_not_checked repaired

je vais donc vérifié que les nouvelles séquences ainsi définie correspondent aux séquences absente du fichier de délétion.
pour ca je vais deja parser le fichier.
j’ai fait le parser reparatio_parser.py
je le fait tourner et je fais matcher les Repaired_sequence avec celle du fichier gal

ouverture de barcode12k_v2final.gal en 2.398 sec
barcode12k_v2final.gal contient 27648 lignes
ouverture de original_vs_repair.txt en 0.092 sec
original_vs_repair.txt contient 818 lignes
('Repaired_sequence',)
original_vs_repair.txt contient 818 tags distincts
('Sequence',)
barcode12k_v2final.gal contient 12683 tags distincts
818 elements de original_vs_repair.txt sont absents de barcode12k_v2final.gal
12683 elements de barcode12k_v2final.gal sont absents de original_vs_repair.txt

aucune des sequences n’est dans le fichier gal. j’ai le meme résultat avec la colonne original_sequence
si je recherche ces séquence dans le fichier de délétion j’obtiens

ouverture de Deletion_primers_PCR_sizes.txt en 1.325 sec
Deletion_primers_PCR_sizes.txt contient 6363 lignes
ouverture de original_vs_repair.txt en 0.063 sec
original_vs_repair.txt contient 818 lignes
('Original_sequence',)
original_vs_repair.txt contient 818 tags distincts
('UPTAG', 'DNTAG')
Deletion_primers_PCR_sizes.txt contient 12481 tags distincts
818 elements de original_vs_repair.txt sont absents de Deletion_primers_PCR_sizes.txt
12481 elements de Deletion_primers_PCR_sizes.txt sont absents de original_vs_repair.txt

j’ai le meme résultat avec la colonne repaired_sequence
il semble donc qu’il n’y ai aucune correspondance entre ce fichier et les séquences existante

en regardant de plus pret on constate que les séquence du fichier de reparation semble a l’envers
je modifie mon parser pour inverser les séquences. j’obtiens en comparant les séquences d’origine avec le fichier de délétion.

ouverture de Deletion_primers_PCR_sizes.txt en 1.504 sec
Deletion_primers_PCR_sizes.txt contient 6363 lignes
ouverture de original_vs_repair.txt en 0.080 sec
original_vs_repair.txt contient 818 lignes
('Original_sequence',)
original_vs_repair.txt contient 818 tags distincts
('UPTAG', 'DNTAG')
Deletion_primers_PCR_sizes.txt contient 12481 tags distincts
1 elements de original_vs_repair.txt sont absents de Deletion_primers_PCR_sizes.txt
sequences absentes set(['GCCTCTTCGCAAAGTAACAA'])
11664 elements de Deletion_primers_PCR_sizes.txt sont absents de original_vs_repair.txt

je retrouve bien toute les séquence originelles
cependant si je compare les séquences réparée avec le fichier gal j’obtiens

ouverture de barcode12k_v2final.gal en 2.186 sec
barcode12k_v2final.gal contient 27648 lignes
ouverture de Deletion_primers_PCR_sizes.txt en 1.369 sec
Deletion_primers_PCR_sizes.txt contient 6363 lignes
ouverture de original_vs_repair.txt en 0.083 sec
original_vs_repair.txt contient 818 lignes
('Repaired_sequence',)
original_vs_repair.txt contient 818 tags distincts
('Sequence',)
barcode12k_v2final.gal contient 12683 tags distincts
595 elements de original_vs_repair.txt sont absents de barcode12k_v2final.gal
12460 elements de barcode12k_v2final.gal sont absents de original_vs_repair.txt

je retrouve donc environ 200 séquences mais presque 600 sont encore absentes.

13 mars 2008 – association des tag des spot des microarray avec les ORF

mars 13, 2008 par xtof78000

10h45 : hier j’ai pu constater que environ une centaine d’anotations des spots des puces n’était pas présente dans le fichier gff. voir ici
mais en prenant au hasard quelque orf j’ai juste constaté qu’elle était bien présente dans le fichier GFF mais sous le nom orf-A ou orf-B. du coup la correspondance ne marche plus en python.
je vais essayer de voir si je peux faire matcher ces orf quand meme…
pour cela j’ai une première idée, c’est tout simplement de ne garder que le nom d’orf sans le -A quand j’extrais les noms des orf avec le parser gff_parser et de voir si j’ai des meilleurs match.
par cette méthode ce sont juste 29 élément que je ne retrouve plus dans le fichier gff

YKL199C YAR044W YCL060C YCL006C YCL062W YBR100W YER108C YLR391W YKL158W YOR240W
YAR037W YKL200C YCL012W YCL053C YAR043C YGL046W YFL018W YFL006W YJL018W YOL053C
YML010C YDR474C YJL021C YML033W YOR088W YCL013W YFL035C YAR040C YCL003W

Cependant je n’aime pas trop cette méthode car je perd de l’info.
finalement je parse le fichier gal (identique a priori au barcode et je récupère les id des spot. avec une expression régulière je retire les -D, -U, -R présents a la fin des id
re.sub(r'-[RUD]+[1-9]*','',tag) j’ai mis des chiffres a la suite des D, U et R car parfois il y en a dans les id.
du coup j’obtiens 40 orf absente du gff

YFL035C-B YFL035C-A YKL199C YBR090C-A YHR079C-B YAR044W YCL060C YCL006C YCL062W YAR037W
YER108C YLR391W YKL158W YHR039C-B YOR240W Spotting Buffer Empty YKL200C YCL012W YFR024C
YCL053C YAR043C YGL046W YFL006W YJL018W YBR100W YDR474C YFL018W-A YCL026C YJL021C
YJL206C-A YML033W YOR088W YOL053C-A YCL013W YML010C-B YDL134C-A YFL035C YAR040C YCL003W

si je fais une recherche sur le premier, YFL035C-B, je trouve sur le chr VI l’orf YFL034-B qui a pour alias YFL035-B. je vais donc modifié le parser gff pour aussi tenir compte des alias
de cette manière je n’ai plus que 7 orf non présentes dans le gff

YCL053C YAR043C Spotting Buffer YCL013W Empty YCL026C YCL006C YAR040C YAR037W