RefSeg-CA / source /code /package_release.py
nmsofficial's picture
Add verified public availability and human-evaluation guide
9126e0d verified
Raw
History Blame Contribute Delete
5.07 kB
"""Package the reviewed R3 manuscript, editable source, and exact evidence."""
from pathlib import Path
import hashlib
import json
import shutil
import zipfile
ROOT = Path(__file__).resolve().parents[1]
EXCLUDED_DIRS = {'build', '__pycache__', 'logs'}
EXCLUDED_SUFFIXES = {'.aux', '.log', '.blg', '.out', '.eps', '.pyc', '.synctex.gz'}
def included(path):
rel = path.relative_to(ROOT)
return (path.is_file() and not any(part in EXCLUDED_DIRS for part in rel.parts)
and path.suffix not in EXCLUDED_SUFFIXES
and rel.as_posix() != 'latex/RefSeg_CA_MVA.pdf'
and rel.name != 'SHA256SUMS')
def sha256(path):
return hashlib.sha256(path.read_bytes()).hexdigest()
def main():
validation = json.loads((ROOT / 'results/r3/final_validation.json').read_text())
assert validation['metric_replay'] == 'PASS'
assert validation['overfull_boxes'] == validation['undefined_references'] == 0
shutil.copy2(ROOT / 'latex/RefSeg_CA_MVA.pdf', ROOT / 'RefSeg_CA_MVA.pdf')
shutil.copy2(ROOT / 'build/Fig1_framework_checked.png', ROOT / 'Preview_Fig1.png')
files = sorted(p for p in ROOT.rglob('*') if included(p))
sums = ROOT / 'SHA256SUMS'
sums.write_text(''.join(f'{sha256(p)} {p.relative_to(ROOT).as_posix()}\n' for p in files))
complete = ROOT.parent / 'RefSeg_CA_R3_Complete_Package.zip'
with zipfile.ZipFile(complete, 'w', compression=zipfile.ZIP_DEFLATED, compresslevel=6) as archive:
for path in files + [sums]:
archive.write(path, 'RefSeg_CA_R3/' + path.relative_to(ROOT).as_posix())
kit = ROOT.parent / 'RefSeg_CA_R3_Human_Validation_Kit.zip'
with zipfile.ZipFile(kit, 'w', compression=zipfile.ZIP_DEFLATED, compresslevel=6) as archive:
for reader in ['A', 'B']:
archive.write(ROOT / f'review/human/parser_annotator_{reader}.csv',
f'annotator_{reader}/parser_annotator_{reader}.csv')
archive.write(ROOT / 'review/HUMAN_VALIDATION_PROTOCOL.md',
f'annotator_{reader}/HUMAN_VALIDATION_PROTOCOL.md')
for name in ['parser_sampling_key.json', 'annotator_metadata.json',
'clipseg_harm_annotation.csv', 'groundedsam_harm_annotation.csv']:
archive.write(ROOT / 'review/human' / name, 'coordinator/' + name)
archive.write(ROOT / 'code/score_human_parser_audit.py', 'coordinator/score_human_parser_audit.py')
archive.write(ROOT / 'code/prepare_human_passes.py', 'coordinator/prepare_human_passes.py')
archive.write(ROOT / 'review/HUMAN_VALIDATION_PROTOCOL.md', 'coordinator/HUMAN_VALIDATION_PROTOCOL.md')
archive.write(ROOT / 'review/INSAN_DEGERLENDIRMESI_UYGULAMA_KILAVUZU.md', 'INSAN_DEGERLENDIRMESI_UYGULAMA_KILAVUZU.md')
for reader in ['A', 'B']:
for name in ['pass1_semantics', 'pass2_decomposition']:
archive.write(ROOT / f'review/human/passes/{reader}_{name}.csv', f'annotator_{reader}/{reader}_{name}.csv')
archive.writestr('README_TR.md', '''# Bağımsız insan doğrulaması — koordinatör paketi
Bu çalışmanın insan değerlendirmesi henüz yapılmadı. Boş formlar sonuç değildir.
1. A ve B için önce yalnızca pass1_semantics dosyasını ve protokolü dağıtın. İlk geçiş kilitlendikten sonra aynı okuyucunun pass2_decomposition dosyasını verin. Tüm ZIP dosyasını okuyuculara göndermeyin. Birleşik parser_annotator formları koordinatör içindir.
2. coordinator klasörünü siz saklayın. Örnekleme anahtarı, diğer okuyucunun formu ve önceki makine etiketleri bağımsız etiketleme sırasında paylaşılmamalı.
3. Okuyucuların gerçek uzmanlık bilgilerini ve tarihleri kaydedin. 600 ifadenin üç temel alanını bağımsız doldurmalarını isteyin.
4. Önce bağımsız anlaşmayı hesaplayın; sonra anlaşmazlıkları gerekçeli uzlaştırın. Orijinal formları değiştirmeyin.
5. Tam proje paketindeki review/human dizinine tamamlanan formları yerleştirin ve protokoldeki komutu çalıştırın. Puanlayıcı boş veya U etiketleriyle doğruluk sonucu üretmez.
İki zarar formunda toplam 120 örnek vardır. Nedensel etiketleme için özgün görüntü ve tam/hedef/çapa/onarılmış/referans maskeleri ayrıca hazırlanmalıdır. Bu kit, görüntü incelemesinin yerine geçmez. İnsan etiketlerinden sonra örnekleme yapısını gözeten belirsizlik aralıkları ve uzlaştırılmış hata örnekleri rapora eklenmelidir.
''')
for archive_path in [complete, kit]:
with zipfile.ZipFile(archive_path) as archive:
assert archive.testzip() is None
count = len(archive.infolist())
print(json.dumps({'path': str(archive_path), 'files': count,
'bytes': archive_path.stat().st_size, 'sha256': sha256(archive_path)}))
print(json.dumps({'pdf': str(ROOT / 'RefSeg_CA_MVA.pdf'),
'sha256': sha256(ROOT / 'RefSeg_CA_MVA.pdf'),
'pages': validation['pages']}))
if __name__ == '__main__':
main()