ViewVC Help
View File | Revision Log | Show Annotations | Download File | View Changeset | Root Listing
root/repos/GoogleTron/GoogleTron.cpp
(Generate patch)

Comparing GoogleTron/GoogleTron.cpp (file contents):
Revision 672 by douglas, 2006-03-02T17:47:49-08:00 vs.
Revision 698 by douglas, 2006-03-12T19:28:22-08:00

# Line 6 | Line 6
6  
7   #include <cxx/standard.hh>
8  
9 + #include <api/exename.hpp>
10 + #include <api/pcre/regex.hpp>
11 + #include <api/process.hpp>
12   #include <app/simple.hpp>
13 + #include <hop/bind.hpp>
14 + #include <xml/textwriter.hpp>
15 +
16 + #include "GoogleTron.hpp"
17 + #include "Sleep.hpp"
18 + #include "Zlib/GzipWriter.hpp"
19 +
20 + int Usage()
21 + {
22 +        api::Cout << _B("Usage: ") << api::GetExecutablePath().GetName() << _B(" [-sitemap=.+] -base=.+ [-fs=.*] [-blog=.*] [-wiki=.*] [...]") << ios::NewLine;
23 +
24 +        return 1;
25 + }
26  
27   int Main(const app::Options &options)
28   {
29 +        cse::String sitemap(_B("sitemap.gz")), base;
30 +        _L<_R<Command> > commands;
31 +
32 +        api::Pcre::RegEx sitemap_(_B("^-sitemap=(.+)$")), base_(_B("^-base=(.+)$")), fs(_B("^-fs=(.*)$")), blog(_B("^-blog=(.*)$")), wiki(_B("^-wiki=(.*)$"));
33 +
34 +        _foreach (const app::ArgumentList, arg, app::GetArguments())
35 +        {
36 +                api::Pcre::RegEx::Match match;
37 +
38 +                if (match = sitemap_(*arg))
39 +                        sitemap = match[1];
40 +                else if (match = base_(*arg))
41 +                        base = match[1];
42 +                else if (match = fs(*arg))
43 +                        commands.InsertLast(new _H<FileSystemCommand>(match[1]));
44 +                else if (match = blog(*arg))
45 +                        commands.InsertLast(new _H<BlogCommand>(match[1]));
46 +                else if (match = wiki(*arg))
47 +                        commands.InsertLast(new _H<WikiCommand>(match[1]));
48 +                else
49 +                        return Usage();
50 +        }
51 +
52 +        if (base.IsEmpty() || commands.IsEmpty())
53 +                return Usage();
54 +
55 +        GoogleTron tron(sitemap, base, commands);
56 +
57 +        return 0;
58 + }
59 +
60 + GoogleTron::GoogleTron(const cse::String &sitemap, const cse::String &base, const _L<_R<Command> > &commands) : working(true), sitemap(sitemap), base(base), output(hop::BindAll(&GoogleTron::Output, this))
61 + {
62 +        api::Apr::CheckError(::apr_initialize());
63 +
64 +        _foreach (const _L<_R<Command> >, command_, commands)
65 +                if (_R<FileSystemCommand> command = dynamic_cast<FileSystemCommand *>(command_->GetValue()))
66 +                        threads.Add(hop::BindAll(&GoogleTron::FileSystem_, this, command));
67 +                else if (_R<BlogCommand> command = dynamic_cast<BlogCommand *>(command_->GetValue()))
68 +                        threads.Add(hop::BindAll(&GoogleTron::Blog_, this, command));
69 +                else if (_R<WikiCommand> command = dynamic_cast<WikiCommand *>(command_->GetValue()))
70 +                        threads.Add(hop::BindAll(&GoogleTron::Wiki_, this, command));
71 + }
72 +
73 + GoogleTron::~GoogleTron()
74 + {
75 +        threads.Join();
76 +
77 +        working = false;
78 +
79 +        output.Join();
80 +
81 +        ::apr_terminate();
82 + }
83 +
84 + int GoogleTron::Output()
85 + {
86 +        _S<Zlib::GzipWriter> gzip(sitemap);
87 +        _S<xml::TextWriter> writer(gzip);
88 +        xml::ScopeElement urlset(writer, _B("urlset"));
89 +
90 +        writer.SetAttribute(_B("xmlns"), _B("http://www.google.com/schemas/sitemap/0.84"));
91 +        writer.SetAttribute(_B("xmlns:xsi"), _B("http://www.w3.org/2001/XMLSchema-instance"));
92 +        writer.SetAttribute(_B("xsi:schemaLocation"), _B("http://www.google.com/schemas/sitemap/0.84 http://www.google.com/schemas/sitemap/0.84/sitemap.xsd"));
93 +
94 +        do
95 +        {
96 +                Sleep();
97 +
98 +                _synchronized (queueLock)
99 +                        if (queue.GetSize())
100 +                        {
101 +                                xml::ScopeElement url_(writer, _B("url"));
102 +                                const Url &url(queue.Front());
103 +
104 +                                {
105 +                                        xml::ScopeElement loc(writer, _B("loc"));
106 +
107 +                                        writer.OutputText(url.GetLocation());
108 +                                }
109 +
110 +                                {
111 +                                        xml::ScopeElement lastmod(writer, _B("lastmod"));
112 +
113 +                                        writer.OutputText(url.GetModified());
114 +                                }
115 +
116 +                                {
117 +                                        xml::ScopeElement changefreq(writer, _B("changefreq"));
118 +
119 +                                        writer.OutputText(url.GetFrequency());
120 +                                }
121 +
122 +                                {
123 +                                        xml::ScopeElement priority(writer, _B("priority"));
124 +
125 +                                        writer.OutputText(url.GetPriority());
126 +                                }
127 +
128 +                                queue.Pop();
129 +                        }
130 +        }
131 +        while (working);
132 +
133 +        return 0;
134 + }
135 +
136 + int GoogleTron::FileSystem_(const _R<FileSystemCommand> &command)
137 + {
138 +        FileSystem fs(sitemap, base, queue, queueLock, command);
139 +
140 +        return 0;
141 + }
142 +
143 + int GoogleTron::Blog_(const _R<BlogCommand> &command)
144 + {
145 +        Blog blog(sitemap, base, queue, queueLock, command);
146 +
147 +        return 0;
148 + }
149 +
150 + int GoogleTron::Wiki_(const _R<WikiCommand> &command)
151 + {
152 +        Wiki wiki(sitemap, base, queue, queueLock, command);
153 +
154          return 0;
155   }

Diff Legend

Removed lines
+ Added lines
< Changed lines
> Changed lines